YZ ZONE

순전파 처리의 역순으로 진행되는 역전파 처리 lost값을 계산하는 과정이 순전파. lost의 기울기를 계산해서 수정해야하는 양을 측정하는 과정이 역전파. 손실기울기와 부분기울기 입력이 다수인 경우의 처리 즉, 각 입력 성분 별로 따로 처리하면 된다 파라미터에 해당하는 입력 성분의 경우 학습률을 이용해 값 수정 중복 활용되는 출력의 처리 즉, 출력의 손실기울기들을 합산한 후 처리하면 된다

손실 함수 lost function 추정을 해서 나온 값과 정답의 차값을 알려줄 때 쓰는 계산식 항상 0 이상, 미분 가능하고(그래야 기울기를 구할 수 있음) 추정이 정확해질수록 작아지는 값 손실함수 값을 줄이는 것을 학습 목표로 삼게 됨 파라미터(w) 상태에 따라 값이 달라 함수라고 표현 비용함수. cost function라고도 부른다 회귀분석에서는 신경망 출력과 정답의 MSE가 이런 성질 보유 MSE:평균제곱오차 Mean Squared Error 신경망 출력, 즉 추정이 (t1, t2..tn)이고 데이터셋의 정답 정보가(y1,y2…yn)일 때 MSE = 오차의 제곱의 평균 추정이 정확해질수록 0에 수렴하며 정답과 일치할 때 0 (오차가 적을수록 정확한 추정) 계산이 간단하고 미분도 쉽다. → MSE를..