deep learning 3

[개념 정리] Batch Normalization in Deep Learning - part 1.

딥러닝을 공부하다 보면 자주 접하는 이론적인 내용이자 실제 구현에서도 라이브러리를 이용하여 쉽게 Layer로 추가하여 사용하는 Batch Normalization에 대해 알아보자. 개요 ICML 2015에 한 논문이 등장했다. "Batch Normalization: Accelerating Deep Network Training by Reducing Internal Covariate Shift" - Sergey loffe and Christian Szegedy[1] Batch Normalization: Accelerating Deep Network Training by Reducing Internal Covariate Shift Training Deep Neural Networks is complicate..

[NVIDIA APEX] Amp에 대해 알아보자 (Automatic Mixed Precision)

version update 20-07-25 : amp 모듈이 pytorch 1.5.0 버전부터 기본 라이브러리에 추가되고 있음! pytorch 를 이용해 모델을 학습하다 보면 더 많은 batch size를 학습시키고 싶고 더 빠르게 학습시키고 싶은 생각이 굴뚝같아진다... 하지만 우리가 가지고 있는 데스크탑이나 서버 환경을 물리적으로 확장시키는 방법은 돈이 많이 든다. 돈을 들이지 말고 코드 몇 줄 만으로 모델을 최적화 시키고 batch size를 늘릴 수 없을까? https://github.com/NVIDIA/apex NVIDIA/apex A PyTorch Extension: Tools for easy mixed precision and distributed training in Pytorch - NV..

[Intro] Object Detection using Deep Learning

딥러닝 기반의 Object Detection 모델들을 공부하기 전에 Image Classification과 기존 컴퓨터 비전에서의 문제 해결 방법들에 대해 알아보자 딥러닝 이전의 Computer Vision 딥러닝 이전의 컴퓨터 비전 분야에서는 영상 속에서 물체를 찾기 위해 우선적으로 찾고자 하는 물체의 특징을 추출해 내고, 영상 속에서 그 특징을 갖는 혹은 유사한 영역을 찾아냄으로써 연구를 진행해왔다. 특징 추출(feature extraction) 방법의 예시로는 간단하게 색상 정보를 이용하는 color histogram이나, 형태 정보를 이용하는 canny edge detection, HoG feature부터, 크기 정보까지 고려하는 SIFT, SURF 등등 물체의 특징이 될 만한 정보들을 개발자들이..