[딥러닝] 1. 단층 퍼셉트론(SLP) _ 1. 회귀분석_ 1.7 편미분과 손실기울기 계산

순전파 처리의 역순으로 진행되는 역전파 처리

lost값을 계산하는 과정이 순전파.

lost의 기울기를 계산해서 수정해야하는 양을 측정하는 과정이 역전파.

 

손실기울기와 부분기울기

입력이 다수인 경우의 처리

• 즉, 각 입력 성분 별로 따로 처리하면 된다
• 파라미터에 해당하는 입력 성분의 경우 학습률을 이용해 값 수정

중복 활용되는 출력의 처리

즉, 출력의 손실기울기들을 합산한 후 처리하면 된다