Computer Vision :)

Label Smoothing논문 1. Label Smoothing? 모델이 Ground Truth(GT)를 정확하게 예측하지 않아도 되게 만들어 주는 것. 모델이 정확하지 않은 학습 데이터셋에 치중되는 경향(overconfident)을 막아 calibration 및 regularization 효과를 가질 수 있다. 2. Why? 보통 학습에 사용되는 데이터셋은 사람이 직접 annotation 하기 때문에 실수의 가능성이 존재하며 100% 정확한 GT 데이터로 생각하면 안된다. 즉, GT데이터가 잘 정제되어 있지 않다면 오분류된 데이터(mislabeled data)가 있을 수 있어 모델이 이를 유하게 학습시키도록 하면 더 효과적이기 때문이다. 3. 정말 좋아? Label smoothing은 mislabel..

version update 20-07-25 : amp 모듈이 pytorch 1.5.0 버전부터 기본 라이브러리에 추가되고 있음! pytorch 를 이용해 모델을 학습하다 보면 더 많은 batch size를 학습시키고 싶고 더 빠르게 학습시키고 싶은 생각이 굴뚝같아진다... 하지만 우리가 가지고 있는 데스크탑이나 서버 환경을 물리적으로 확장시키는 방법은 돈이 많이 든다. 돈을 들이지 말고 코드 몇 줄 만으로 모델을 최적화 시키고 batch size를 늘릴 수 없을까? https://github.com/NVIDIA/apex NVIDIA/apex A PyTorch Extension: Tools for easy mixed precision and distributed training in Pytorch - NV..

- Slice와 Array의 차이점 설명하기 - Slice를 이용해 2차원 배열 만들기 예제 https://go-tour-kr.appspot.com/#36 A Tour of Go 연습: 슬라이스 Pic이라는 함수를 구현합니다. 이 함수는 dy개 만큼의 길이를 가지는 슬라이스를 리턴해야 하는데, 각각의 요소들은 또한 dx 개의 8비트 부호없는 8비트 정수 타입을 가지는 슬라이스입니다. 프로그램을 실행하면 이 정수값들을 흑백 (사실은 파란색)을 나타내는 값으로 해석하여 그림을 보여줄 것입니다. 그림은 여러분이 원하는 것으로 선택할 수 있습니다. (이용할 수 있는) 흥미로운 함수로는 x^y, (x+y)/2, x*y 등이 있습니다. (여 go-tour-kr.appspot.com Code package main ..

ICCV 2019 논문 리뷰 중에 Visual Ground 이라는 키워드가 계속 보이길래 찾아보았다. Visual Grounding General task of locating the components of a structured description in an image - Conser, Erik, et al. "Revisiting Visual Grounding." arXiv preprint arXiv:1904.02225 (2019) 즉, 이미지에서 어느 부분을 묘사하였는지 bounding box로 표시하는 것을 의미하며 묘사는 정형화 된 표현으로 제공된다. 그리고 structured description은 대표적으로 'scene graph' 형태나 'subject-predicate-object' 형..

ICCV 2019 논문 중 'ShapeMask: Learning to Segment Novel Objects by Refining Shape Priors'를 리뷰하다가 발견된 용어 'class-agnostic' class-agnostic는 주로 Object Detection 분야에서 사용되는데 agnostic은 'someone who does not know'와 같은 의미로 논문에서는 '물체의 종류를 모르는' 의미로 사용되는 것 같다. 그럼 왜쓰일까? 이와 관련하여 Quora 사이트에 올라온 질문 글을 참고하였다.(https://www.quora.com/What-does-%E2%80%9Cclass-agnostic%E2%80%9D-in-most-of-the-object-detection-papers-mea..

ICCV 2019 논문들을 살펴보다가 Object Detection이 아닌 'Salient' Object Detection으로 표현하는 논문들이 있길래 무엇이 다른가 찾아보게 되었다. 맥락은 비슷하지만 약간의 차이가 있으니 정리를 해두자 :) (처음에는 Silent로 자꾸 보여서 '조용한 물체를 찾는다고..?'라고 생각이 들게 만듦;;) Salient란 캠브릿지 영영사전에 의하면 'The salient facts about something or qualities of something are the most important things about them'로 '중요한' 특징에 대한 수식어로 받아들여진다. SOD의 의미를 알아보기 위해서 이에 대한 논문을 살펴보자[1]. Salient Object De..

딥러닝 기반의 Object Detection 모델들을 공부하기 전에 Image Classification과 기존 컴퓨터 비전에서의 문제 해결 방법들에 대해 알아보자 딥러닝 이전의 Computer Vision 딥러닝 이전의 컴퓨터 비전 분야에서는 영상 속에서 물체를 찾기 위해 우선적으로 찾고자 하는 물체의 특징을 추출해 내고, 영상 속에서 그 특징을 갖는 혹은 유사한 영역을 찾아냄으로써 연구를 진행해왔다. 특징 추출(feature extraction) 방법의 예시로는 간단하게 색상 정보를 이용하는 color histogram이나, 형태 정보를 이용하는 canny edge detection, HoG feature부터, 크기 정보까지 고려하는 SIFT, SURF 등등 물체의 특징이 될 만한 정보들을 개발자들이..