Cost Function (비용 함수)

우리는 함수 h(x)의 변수 값을 비용 함수(Cost Function)을 사용함으로써 정할 수 있습니다. 이 비용 함수는 x값과 실제 y값의 평균적인 차이를 필요로 합니다. 즉, 수식은 아래와 같은 형태를 띄게 됩니다.

위 함수를 흔히 평균제곱오차(Mean Squared Error, MSE) 라고 부릅니다.

수식을 쉽게 설명하자면, h(x)가 예측한 값과 실제 y값의 차이를 제곱한 뒤, 그것을 모두 더하고 1/2 * 훈련 데이터량(m)을 한 것이 비용 함수입니다.

이 함수는 제곱오차함수(Squared Error Function), 또는 평균제곱오차(Mean Squared Error) 라고 부릅니다.

평균은 경사하강법(Gradient Descent)의 계산을 편리하기 위해서 반으로 줄어들며, 나중에 이 함수의 미분계수가 반으로 줄은 것을 다시 곱해 원래대로 되돌려줄 것입니다.

아래의 이미지는 비용 함수가 하는 것을 요약한 것입니다.