딥러닝/딥러닝 etc

딥러닝 학습 양상

scjung 2020. 2. 5. 18:31

지금까지 다양한 프로젝트를 하면서 학습이 어떻게 되는지 하나하나 다 눈으로 확인해봤다 (강박증인가...)

 

암튼 분류 별로 하나하나 따져봤을 때

 

image classification 은 각 이미지가 어떤 class 인지 바로 학습을 진행하는 것으로 보였다

 

loss 값을 봤을 때 예를 들어 아래 이미지와 같은 느낌

 

내가 그린 그래프는 아니지만 대략 이런 느낌

 

 

 

근데 image segmentation을 진행하는 것을 보자니

 

이미지의 형태를 찾는다 -> 그 형태가 어떤 class에 들어가는지 찾는다 의 순으로 진행되는 것으로 보였다

이런 느낌...?

그래서 중간에 잠깐 accuracy가 뛰었다가 다시 class를 탐색하면서 떨어졌다가 제대로 학습하는 느낌?으로 진행되었다

 

 

 

그리고 OCR의 경우의 학습 양상은 이렇다

텍스트의 길이를 탐색한다 -> 각 위치에 맞는 글자를 학습한다

라는 식으로 진행되서 loss 그래프는 대략 아래와 같은 양상을 가졌다

 

이건 loss 값이고 위의 그래프는 acc 값이니 혼동하지 말자

길이를 탐색하다보니 처음에는 loss가 잘 떨어지지 않는 양상을 보이다가 갑자기 급격하게 떨어진 후 거의 완벽하게 수렴하더라

(하지만 정답률과는 별개의 이야기)

 

나는 처음에 딥러닝을 하면서 일반 데이터와 image classification만 하면서

loss가 맨 처음과 같이 안나오면 굉장히 불안해하고 학습을 중간에 정지시켰는데

프로젝트를 진행하다보니 중간에 정지시키지 말고 한 번 끝까지 봐야하더라(...)

 

고로 불안해하지 말고 그냥 끝까지 냅두자