반응형 parameter1 코드에서 파라미터 최적화 본 글은 https://www.youtube.com/watch?v=ssf49Ppvh8c&list=PLSAJwo7mw8jn8iaXwT4MqLbZnS-LJwnBd&index=10 이 강의를 기반으로 작성되었습니다. ## 왜 코드에서 하이퍼 파라미터를 변수화 시키는게 중요한가? 하이퍼파라미터를 변수로 설정하지 않고 일반 숫자로 하드코딩 식으로 한다면 많은 실수들이 나올 수 있다. 예를 들어, weight initalization을 random하게 하는데 모르고 seed 값을 고정안했다고 가정하자. 그리고 모델의 하이퍼파라미터를 변경하면서 최적의 하이퍼 파라미터를 찾는다고 가정하자. 만약 이 상황에서 하이퍼파라미터를 변수가 아닌 숫자로 설정하였다면 깜빡하고 하이퍼파라미터를 변경하지 않고 실험을 진행할 수 있다... 2021. 7. 28. 이전 1 다음 반응형