전체 글 (42) 썸네일형 리스트형 _02.하이퍼 파라미터hyper parameters (머신러닝) Hyper Parameter란 신경망 학습을 통해서 튜닝 또는 최적화 해야하는 주변수가 아니라, 학습 진도율이나 일반화 변수처럼, 사람들이 선험적 지식으로 설정을 하거나 또는 외부 모델 메커니즘을 통해 자동으로 설정이 되는 변수를 말한다. Learning Rate 학습진도율은 “gradient”의 방향으로 얼마나 빠르게 이동을 할 것인지를 결정한다. (보폭이라고도 표현.) 학습진도율이 너무 작으면 학습의 속도가 너무 느리게 되고, 반대로 너무 크면 학습이 안되고 진동할 수 있다. 학습 진도율도 학습 대상이나 망에 따라 적절히 조절해야한다. Cost function (== Loss function) 일반적인 최소자승법(평균오차제곱)을 사용할수 도 있고, cross-entropy 함수를 사용할 수도 있다. .. _01.[관련용어]Norm Norm Norm은 벡터의 길이 혹은 크기를 측정하는 방법(함수) 입니다. Norm이 측정한 벡터의 크기는 원점에서 벡터 좌표까지의 거리 혹은 Magnitude라고 합니다. p는 Lorm의 차수를 의미합니다. p가 1이면 L1 Norm이고 p가 2이면 L2 Norm입니다. n은 대상 벡터의 요소 수입니다. Norm은 각 요소별로 요소 절대값을 p번 곱한 값의 합을 p 제곱근한 값입니다. 주로 사용되는 Norm은 L1 Norm과 L2 Norm, Maxium norm입니다. 여기서는 L1, L2 Norm에 대하여 살펴보겠습니다. L1 Norm L1 Norm은 p가 1인 norm입니다. L1 Norm 공식은 다음과 같습니다. L1 Norm을 Taxicab Norm 혹은 맨허튼 노름(Manhattan norm).. _05.[CS231N] Lecture2. CS231 보기전 머신러닝 인스톨하기 DL-CNN을 이용한 이미지 인식의 개념정리 Lecture1. Introduction to Deep Learning for Computer Vision. Lecture2. Image Classification 2.1 이미지 분류(Image Classification) 2.2 데이터 기반 접근(Data-Driven Approch) 2.3 Nearest Neighbor Classifier 2.4 k-최근접 이웃 분류기(k-Nearest Neighbor Classifier) 2.5 하이퍼파라미티 조정을 위한 검증셋(Validation sets for Hyperparameter tuning) Assignment1:[링크] 실습 자료: CIFAR10 데이터셋 다운받기 이번 강.. _04.[CS231N] Lecture1. ** 제가 작성하는 CS231n 노트는 강의를 번역하는것이아니라, 부족하지만 노베이스인 제가 여러 학습 자료를 통해 이 강의를 이해한 내용을 정리해 두고자 함입니다. 따라서 어려운 개념의 수식이나, 이야기를 길어지게하는 디테일은 되도록 생략하려 합니다. CS231 보기전 머신러닝 인스톨하기 DL-CNN을 이용한 이미지 인식의 개념정리 Lecture1. Introduction to Deep Learning for Computer Vision. 1.1 컴퓨터 비전분야 속 딥러닝 1.2 허블과 비셀실험 1.3 컴퓨터 비전기기술의 미래 1.1 컴퓨터 비전분야 속 딥러닝 1강에서는 컴퓨터 비전의 역사와 컴퓨터 비전분야에서의 딥러님의 역사를 설명한다. 컴퓨터 비전의 개념적 출발점이라고 할 수 있는 허블(Huble).. _04. 오늘까지 40일 "툴을 쥔 인간은 툴의 방식으로 말하고 생각한다고 내게 말한 사람이 누구였는지.." - 황정은 「디디의 우산」중에서..- 1월 7일 부터 시작한 파이썬 30일 챌린지가 오늘 끝났다. 30일을 맞추려고 악착을 부리다보니, 오늘도 자정을 넘겨 새벽이다. 한 달이 지나고 나서야 겨우 출발선에 선 느낌이다. 현실은 여전히 출발선인데.. 여기저기 졸업반같은 피곤함이 누덕누덕 쌓여있다. 5번째 exploration을 하면서 부터 정해진 시간안에 1독을 마칠 수 있었고, 9번째 fundamental을 마치는 날 복습이란 걸 할 수 있는 여유가 생겼다. 지금 내가 가지려는 이 툴은 .. 나를 어떤 방식으로 생각하게하고 말하게 할지 궁금해진다. 나는 40일 동안 무엇이 바뀌어있는지.. 가늠할 수가 없다. 자고 일어나면,.. _03. DL-CNN을 이용한 이미지 인식의 개념정리 앞서 머신러닝의 전체적인 그림이 그려졌다면, 강의를 보기전, CS231n 강의에 대한 전체적인 그림도 그려보고 가자~! 강의 내용시 기본 지식이 되는 꼭 필요한 CNN구조의 이미지 분류에 대한 기본 개념을 먼저 공부하자. CS231n의 전체적인 강의는 이 CNN구조로 가는 흐름과 CNN의 세부 사항에 관한 이야기이다. 아래 블로그를 통해서, 학습한 후 진짜 세부강의로 들어가서 스터디 하길 추천한다. 물론, 이 사항은 노베이스 학습자의 경우에 기반한다. 이미 이러한 지식이 있는 사람은 .. 그저 부러울 뿐.. ^^ [딥러닝 초보자를 위한 CNN을 이용한 이미지 인식의 이해](2016년도 작성글: 조대협님의 블로그] _02. CS231n_목차 및 링크 CS231n 과정 구조 전반부 1. linear classifiers (선형분류기) : 1강 / 2강 / 3강 2. Stochastic gradient descent (확률적 경사하강법) : 4강 3. Fully-connected networks : 5강 4. Convolutional networks 5. Recurrent networks 후반부 6. Attention and transformers 7. Object detection 8. Image segmentation 9. Video classification 10. Generative models (GANs, VAEs, autoregressive models) 11. Deep reinforcement learning 숙명여대 CS231n강의 (20.. _01. CS231 보기전 머신러닝 인스톨하기 노베이스라면, 아래 그림을 먼저 보고 CS231 스터디를 시작하자. *이 그림이 뇌 속에 인스톨되는데 한 달이 걸렸다. 난 노베이스 입니다만.^^ *CS231 2019 michigan버젼을 6강까지 듣고 정리한 내용으로 이후 수정사항이 있을 수 있으며, 언제든지 잘못된 정보는 댓글로 알려주시면, 반영하여 수정하도록 하겠습니다. AIFFEL의 과정을 시작하면서 머리 속에 아무런 그림이 없어서, 어떤 정보가 입력되어도 파편화되어 쌓이거나 사라질 뿐 적당한 인덱스에 저장되지 않았다. 그 중 CS231 강의는 더욱 혼란 스러웠다. CS231 스터디를 시작하기 전 노베이스라면, 아래 그림을 기억해 두고, 강의를 들으면서 수시로 내가 학습하는 정보의 인덱스가 어디쯤인지 상기시켜야 한다. 그리고 왜 CS231이었는가.. 이전 1 2 3 4 5 6 다음
