1. Introduction to ML Strategy : NN의 성능을 올리기 위해서 시도해 볼 아이디어는 무척이나 많다. 더 많은 데이터 모으기, 더 다양한 학습셋 모으기, 더 오래 학습하기, 더 좋은 optimizer 사용하기, 더 큰/작은 네트워크 설계하기, dropout 사용하기, regularization, network architecture 바꾸기 등등등.. 우리는 이러한 많은 시도들을 해볼 수 있는데 이때 중요한 개념이 orthogonalization이다. (1) Orthogonalization : 각각의 Idea가 하나의 문제만 해결하도록 설계하는 것. 예를 들어, 자동차 핸들에는 방향 조절 기능만 넣어놓는 것이 우리가 다루기가 편하다. 하지만 핸들에 '0.5 * 방향조절 + 0.3 *..