Vision_용어정리

논문을 읽어가면서 자주 나오는 용어들을 정리해봤다.

 

정말 간단히 적은것이니 더 자세한 내용이 필요하면 추가적으로 찾아서 공부해보는 것이 좋을것 같다.

 

 

Over fitting : 과적합

=> 학습 데이터를 과하게 잘 학습하는 것으로 예를들어) 노란색 고양이를 학습했을때 노란색 고양이만 너무 잘 학습해서 실제 데이터에 검정색 고양이를 보고 고양이라 인식하지 못하는 것을 Over fitting 이라고 한다.

 

 

Loss function: 오차

=> 예측 결과와 실제 값 간의 차이 측정. loss function 값이 클수록 오차가 크다는 뜻.

 

 

Bias : 편향

Variance : 분산

 

bias 란 추정 결과가 한쪽으로 치우치는 것을 말하고 variance 란 퍼져있는것을 말한다.

 

위에 사진이 bias 와 variance 를 보여주는 대표적인 그림이다.

 

 

 

Active function: 활성화 함수

=> 이전 층의 결과값을 변환하여 다른 층의 뉴런으로 신호 전달.

이때 활성화 함수는 비선형함수를 주로 쓰는데 그 이유는 

만약 선형함수를 사용하게 되면 3층 구성 네트워크라 할 때, y(x)=h(h(h(x))) = c*c*c*x=c^3 * x 이는 곧 y=ax 에서 a= c^3 인 선형 함수이며 1층으로 구성된 네트워크와 다를 바가 없어지므로 비선형함수를 사용하게 된다.

 

활성화 함수의 대표적으로

ReLu , Soft-max 등이 있다.

 

 

FClayer: 2차원 -> 1차원 평탄화 작업

 

batch size: 한번에 모델이 학습하는 데이터 샘플의 개수

=> 예를들어 1000개의 학습 데이터가 있을때 배치 사이즈가 100이라면 전체 데이터셋을 10개의 배치로 나누어 모델에 입력.

 

 

Epoch: 전체 학습 데이터셋을 모델이 한 번 학습. 1 epoch 은 전체 데이터셋을 한번 사용하여 학습.

=> 예를들어 1000개의 학습데이터. 배치사이즈가 100 이면 1 epoch 은 10개의 batch 를 처리한 후 완료.