Study/Deep Learning1 [DL] 모델 경량화 실 서비스의 모델배포에 있어 어려움을 겪어 경량화의 중요성에 대해 깨닫게 되었다. 이에 경량화 중 모델 압축 기법에 대해 공부해보고자 한다. 경량화 기법 중 Pruning, Quatization, Distillation에 관하여 공부해보았다. 경량화의 필요성 1) 높은 비용: 거대한 모델을 학습시키는 데는 엄청난 계산 자원이 필요하므로, 높은 경제적 비용이 발생함 2) 추론 비용: 추론 과정에서도 많은 계산 자원이 필요하므로, 실시간으로 빠른 응답이 요구되는 서비스에 모델을 적용하는 것을 어렵게 함 3) 접근성 문제: 거대한 모델은 모바일폰이나 임베디드 기기에서 활용불가 경량화의 종류 1) Pruning: 중요하지 않은 부분을 적절히 가지치기를 해서 줄일 것이냐 2) Quantization: 해상도를 낮.. 2024. 4. 5. 이전 1 다음
