항해 플러스 AI | 4주차 WIL

1. 문제 (과제, 프로젝트를 진행하면서 부딪혔던 기술적인 문제)

이번 주차를 지나며 겪었던 문제가 무엇이었나요?

 

1. huggingface를 활용하는 것과 3주차의 실습코드가 어떻게 다른지, 그래서 huggingface를 활용하는 것의 이점이 무엇인지 코드 비교를 해보고 싶었음
2. 4주차 실습코드에서 Transfer learning을 마지막에 왜 실습하는건지 수업 시간에는 이해하지 못했음
3. 전이학습에서 왜 마지막 부분만 학습시키는지 이해하지 못했음

 

2. 시도
문제를 해결하기 위해 어떤 시도를 하셨나요?

발제 내용을 복습하면서 huggingface를 활용하는 방식인 것은 같고, 모델 구현시 from_config, from_pretrained 냐의 차이임을 이해하게 됨

 

1. 코드를 좌우로 놓고 비교해봄
2. from_config를 활용한 방식의 코드를 한줄한줄 꼼꼼히 이해하고자 함
3. 전이학습 관련 유튜브 영상을 시청함

 

3. 해결
문제를 어떻게 해결하셨나요?

 

4. 알게된 것
문제를 해결하기 위해 시도하며 새롭게 알게된 것은 무엇인가요? 

1. 좌우로 놓고 코드를 비교하니 그 전에 직접 모델구현 과정을 거쳤을 때의 상세 절차가 huggingface코드에서는 hyperparameter로 녹여졌음을 알 수 있었음
2. from_config를 활용한 방식의 코드를 먼저 이해하고 나니, Transfer learning의 코드를 쉽게 이해할 수 있었고, 과정에서 from_pretrained를 쓰는 것의 차이라는 것을 이해하게 됨
3. 전이학습의 개념을 상세히 이해함으로써 freezing하는 과정과 마지막 단계만 학습시키는 것이 왜 그런지 이해할 수 있게 됨

 

---

Keep : 현재 만족하고 계속 유지할 부분
이번 주를 마무리 하며 나에게 만족했던 부분은 무엇인가요?

4주차 발제 내용을 온전히 이해하고 과제를 학습할 수 있었음

학습 후, 실습1, 실습2의 코드 작성의 큰 그림에서의 절차를 한번 정리했더니

과제할 떄도 큰 그림에서 코드의 진행과정을  먼저 잡고 접근할 수 있었고,

그래서 과제의 요구사항들을 코드의 어떤 부분에서 반영하면 될지 감을 잡을 수 있었다.

 
Problem : 개선이 필요하다고 생각하는 문제점
이번 주를 마무리 하며 개선이 필요하다고 생각했던 문제점은 무엇인가요?

 

Try : 문제점을 해결하기 위해 시도해야 할 것
이 문제점을 해결하기 위해 다음 한 주간 시도 할 것은 무엇인가요?