[DaconAIContest] class weight, augmentation // score_0.76311

[신민서]

개발 환경

https://cafe.daum.net/SmartRobot/RoVa/2206

[DaconAIContest] Jetson 기반 Multi-Node 학습

코드 주요 개선 부분

# 클래스 불균형 처리: class_weight 적용

기존 코드

모든 클래스에 동일한 중요도를 부여하는 걸 알 수 있음

-> 샘플 수가 적은 클래스는 학습 중 무시 됨

클래스 별로 데이터셋 개수가 차이가 많이 나서 이는 수정해야 한다고 판단함

수정 코드

데이터 수가 적은 클래스에 더 많은 학습 비중을 부여

https://scikit-learn.org/stable/modules/generated/sklearn.utils.class_weight.compute_class_weight.html

compute_class_weight

sklearn에 좋은 클래스가 있어서 사용함

# 데이터 증강 강화

기존 코드

단순한 Resize와 정규화만 적용함

데이터셋을 분석해보니 test 데이터셋과 train 데이터셋에 이미 증식이 들어가있는 것을 확인

train에 비해 test 데이터셋에 확대(zoom)나 crop된 이미지들이 많았음

또한 두 데이터셋 모두 채도, 회전이 들어감

이를 반영해서 증식 추가함

수정 코드

질감 분류 위주로 성능을 개선하기 위해 명암, 대비 밝기 넣음

또한 test 데이터셋과 비슷한 증식이 더 들어가면 했어서 RandomCrop 사용

학습 결과

수정 계획

학습/검증/테스트에 다른 증강 적용하는 전략 고려

증식 수정 (너무 쎄게 증식을 넣어도 오히려 test 이미지를 많이 못 맞출 거 같음...)

모델 백본 freeze하는 방식 고려 (Fine_tuning으로 일부 레이어 freeze -> train -> unfreeze -> train)

resnet101 -> resnet50 으로 모델 성능을 줄여서 학습해볼 예정

( 암석 자갈 이미지 자체가 자세한 특징이 많이 없어서 무거운 모델을 쓸수록 오히려 성능이 떨어질 수도 있음 )

[Sungryul Lee]

1. 학습률이 코드상이나 수동으로 업데이트 되었을 수도 있습니다.
관련 링크 : https://stats.stackexchange.com/questions/300839/what-causes-sudden-drops-in-training-test-errors-when-training-a-neural-network

2. 모델이 학습 난관을 극복하고 더 나은 해법을 찾은 "질적 도약"일 가능성이 높다고 합니다. (국소 최소점을 벗어나는 최적화 동작이나 모델 내부 표현의 위상 전이)
실제로 아래 논문에서 훈련 절차나 하이퍼파라미터 변화 없이 손실이 급락하였고, 이게 모델이 그 시점에 문제 구조를 파악했기 때문이라고 분석한 논문이 있습니다.
논문 링크 : https://openreview.net/pdf?id=MO5PiKHELW#:~:text=%28Section%204,3%29%201

3. 러니레이트는 알고리즘에 의해 자동으로 업데이트 되기 때문에 러닝레이트가 갑자기 변화하면서 그래프상에 갑작스런 감소가 발생할 가능성, 러닝레이트를 모니터링 필요