손실 함수와 최소제곱법, 그리고 최대가능도법의 관계모델에 잘 들어맞는 parameter를 추정하는 방법에는 최대가능도법(MLE)과 손실 최소화 방식이 있다.최대가능도법(Maximum Likelihood Estimation, MLE)은 모델이 주어진 데이터를 얼마나 잘 설명하는지를 가능도(likelihood)라는 수치로 나타내고, 이 수치를 가장 크게 만드는 parameter를 추정하는 방법이다. 반면, 손실 최소화 방식은 기계학습에서 널리 사용되며, 모델과 실제 값 사이의 차이(Loss)를 최소화하는 방향으로 parameter를 찾는다. 손실 함수란 무엇인가 손실 함수(Loss Function)는 parameter를 추정할 때 손실을 정의하고, 그 손실을 최소화하도록 parameter를 선택하는 함수다...