[딥러닝] 1. 단층 퍼셉트론(SLP) _ 1. 회귀분석_1.5 회귀분석과 MSE 손실함수

손실 함수 lost function

• 추정을 해서 나온 값과 정답의 차값을 알려줄 때 쓰는 계산식
• 항상 0 이상, 미분 가능하고(그래야 기울기를 구할 수 있음) 추정이 정확해질수록 작아지는 값

손실함수 값을 줄이는 것을 학습 목표로 삼게 됨

파라미터(w) 상태에 따라 값이 달라 함수라고 표현

• 비용함수. cost function라고도 부른다
• 회귀분석에서는 신경망 출력과 정답의 MSE가 이런 성질 보유

MSE:평균제곱오차 Mean Squared Error

• 신경망 출력, 즉 추정이 (t1, t2..tn)이고 데이터셋의 정답 정보가(y1,y2…yn)일 때

MSE = 오차의 제곱의 평균

 

• 추정이 정확해질수록 0에 수렴하며 정답과 일치할 때 0 (오차가 적을수록 정확한 추정)
• 계산이 간단하고 미분도 쉽다.

→ MSE를 회귀분석에서 손실함수로 사용하면 좋다.