ANN에서 문제를 해결하는 방식은 두 단계로 이루어져 있다. 학습 : 학습 데이터를 이용해 가중치 매개변수를 학습한다. (지도 학습, SL(Supervised learning)) 추론 : 학습한 가중치 매개변수를 이용해 입력 데이터에 대한 결과를 추측한다. 추론은 다시 분류(Classification)와 회귀(Regression)로 나뉜다....

https://github.com/sbrugman/deep-learning-papers CNN 기반 DNN VGG 구성이 간단해서 응용하기 좋다. https://arxiv.org/abs/1409.1556 GoogLeNet 가로 방향에 폭이 있는 인셉션 구조. https://arxiv.org/abs/1409.4842 ResNet 층이 매우 깊어서...

apt* family apt-get 대신 그냥 apt를 사용해도 된다. apt-get update package\_name apt-get upgrade package\_name apt-get update : updates the list of available packages and their versions, but it does not ins...

jQuery보다 먼저 알았으면 좋았을 것들 jQuery jQuery는 주로 DOM, Ajax, 그리고 event와 effect를 처리하기 위해 사용하는데, effect같은 경우 css로 처리할 수도 있다. hover같은건 effect로 봐야하기 때문에 css로 처리하는 것이 좋고, onclick은 event로 봐야하기 때문에 JS로 처리해야 한다. ...

Cookie와 Storage 모두 개발자 도구의 Application 탭에서 확인할 수 있다. Cookie는 EditThisCookie 크롬 확장프로그램을 사용하는 것이 편하다. Cookie 서버에서 클라이언트가 쿠키를 설정하도록 지정할 수도 있고, 클라이언트에서 자체적으로 설정할 수도 있다. HTTP는 stateless protocol이...

Elements 페이지 내의 문서 객체와 관련된 속성 을 실시간으로 확인할 수 있다. Console 콘솔 로그 를 확인할 수 있다. Esc를 누르면 팝업으로 창이 뜬다. console.log Sources 브라우저가 HTML을 해석하기 이전의 웹서버로부터 전송된 원본 source를 확인할 수 있다. 예를 들면 Elements...

딥러닝, 심층 신경망 딥러닝은 사실상 층을 깊게 쌓은 심층 신경망(DNN)을 가리키는 말이다. 여태까지는 오버피팅, 높은 시간 복잡도 때문에 층을 깊게 쌓는게 불가능했었지만 오버피팅은 Dropout으로, 높은 시간 복잡도는 GPU의 병렬처리를 이용해 해결하여 층을 깊게 쌓는 것이 가능해져 주목받게 되었다. 여러 머신러닝 알고리즘 중에 신경망이, 그 ...

CNN, Convolutional Neural Network CNN은 합성곱(Convolution) 연산을 사용하는 ANN의 한 종류다. Convolution을 사용하면 3차원 데이터의 공간적 정보를 유지한 채 다음 레이어로 보낼 수 있다. 대표적인 CNN으로는 LeNet(1998)과 AlexNet(2012)이 있다. VGG, GoogLeNet, Re...

오버피팅( Overfitting ) 오버피팅은 훈련 데이터에만 지나치게 적응하여 시험 데이터에 제대로 반응하지 못하는 현상을 말한다. 주로 다음 경우에 발생한다. 매개변수가 많고 표현력이 높은 모델인 경우 훈련 데이터가 적은 경우 Regularization 오버피팅을 억제하기 위해서 다음과 같은 regularization 기법을 사용한다....

초기 가중치 설정 오버피팅 문제 때문에 언제까지고 반복을 돌려 정확도를 올릴 수는 없기 때문에, 최적의 초깃값으로 설정하는게 도움이 된다. 초기 가중치에 따른 활성화값 분포 활성화 함수의 출력 데이터를 활성화값이라고 하는데, 초기 가중치에 따른 활성화값의 분포를 관찰하면 중요한 정보를 얻을 수 있다. 활성화 함수로 sigmoid를 사용하며 W는...