[딥러닝] 1. 단층 퍼셉트론(SLP) _3. 선택 분류_ 3.2 선택 분류 문제의 신경망 처리

3.2 선택 분류 문제의 신경망 처리

선택 분류 문제

- 몇 가지 후보 가운데 하나를 골라 답하는 문제

    불량 유형을 가려내야 한다면 선택 분류 문제

    철판의 불량 여부 판정: 이진 판단 문제 0 or 1

- 객관식 시험 문제

- 각종 의사 결정

- 언어행위: 알파벳 혹은 음소의 선택 및 나열

   각각의 알파벳이나 음소 선택의 선택 분류 문제

선택 분류를 위한 신경망 구성

- 후보 항목 수만큼의 퍼셉트론 배치

   각 후보 항목과 일대일 대응 관계

- 퍼셉트론 출력: 로짓 추정값

   로짓값: 로그 척도의 상대적 추천 강도

    후보 항목 번호를 직접 추정하거나 각 후보 항목의 확률값을 곧바로 계산하기는 출력 범위 제한도 어렵고 미분 처리가 어려워 학습 방법도 마땅치 않음

- 전체적으로 이진 판단과 유사하지만 모든 후보 항목에 대한 로짓값 추정 즉, 거짓에 대한 0추정 같은 암묵적 요소 없음

신경망 출력의 후처리

- 출력: 각 후보 항목들에 대한 로짓값 벡터

    각각의 값 자체보다는 값들의 차이가 중요

    가장 큰 값을 갖는 성분 위치가 선택 항목에 해당

- 출력 후처리 함수

    - 소프트맥스 함수

        로짓값 벡터를 확률 분포로 변환

        선택 결과 결정에는 불필요: 최대치 조사만으로 충분

    - 소프트맥스 교차 엔트로피 함수

        신경망 추정 확률 분포 VS 정답 확률 분포

        학습 정도를 보여주는 손실 함수 역할

     - 소프트맥스 교차 엔트로피 편미분 함수

        학습 수행을 위한 손실 기울기 계산

 

분류를 한다는 것은 퍼셉트론을 거치게 되면 로짓값이 나오는데 그것을 소프트 맥스를 통해 확률분포로 변환을 해서 사용함.

확률분포로 나온것을 교차엔트로피로 계산가능하고 그것을 손실함수로 설정한 다음 기울기를 계산해 갱신해서 학습해 나가면됨.