
최적화(Optimization)먼저 최적화에 대해 알아보기 전에 모델링의 매커니즘에 대해서 알아보자 기본적으로 입력 값 X가 주어졌을 때, 모델을 통해 예측 값을 도출하고, 그 예측 값을 손실 함수에 넣어서 손실을 계산하게 된다. 손실 함수의 역할은 모델이 얼마나 잘 예측했는지를 평가하는 것이며, 손실 값이 작을수록 더 좋은 모델이라는 의미이다. 따라서 우리의 궁극적인 목표는 손실 함수의 값을 최소화하는 w(모델의 파라미터)를 찾는 것이다. 이 w는 모델이 데이터를 잘 설명할 수 있도록 최적화된 값이다. 모든 학습 과정의 핵심은 최적의 w를 찾는 것이며, 이를 위해 다양한 최적화 알고리즘 (예: 경사하강법, Adam 등)이 사용된다. 이러한 알고리즘들은 반복적으로 w를 업데이트하며 손실 함수를 최소화..