YZ ZONE

이진 판단에서 신경망 학습의 원리 학습 중인 딥러닝 모델의 추정 확률 분포 P로 설정 이 모델이 흉내내야 할 미지의 확률 분포를 Q로 설정 입력값을 구조에 넣어서 출력이 나오고 교차 엔트로피로 두 개의 확률 분포를 측정을 하고 w를 수정해 차이를 줄이는것 P와 Q의 교차 엔트로피 값을 계산 혹은 추정하여 교차 엔트로피값이 작아지는 쪽으로 Q를 꾸준히 수정해 확률 분포 Q를 확률 분포 P에 가깝게 접근시킨다. 실제 학습의 어려움 -1 확률 분포 Q를 알지 못하는 상태목표점에 도달하지 않은 상태 임으로 실제 확률분표 Q가 존재하지 않음 따라서 P와 Q의 교차 엔트로피 값을 계산할 수 없다. 확률 분포 Q는 딥러닝 모델이 학습 통해 찾아야 할 목표점 데이터셋 데이터는 존재 가능한 실세계 데이터의 샘플((일부분..

[접근1] 신경망 출력을 이진값으로 퍼셉트론 구조상 0과 1 두 가지 값만 내도록 제한 곤란 미분곤란: 역전파 학습 거의 불가능 [접근2] 신경망 출력을 ‘참’일 확률값으로 퍼셉트론 구조상 [0.0, 1.0] 구간 내 값만 내도록 제한 곤란 [접근3] 신경망 출력을 ‘참’일 가능성의 로짓값으로 로짓값: 상대적 가능성 정도를 로그 척도로 표현한 값 간단한 변환 함수를 추가해 확률 값으로 변환가능 값의 범위에 제한이 없어서 퍼셉트론 출력 형태로 적합 미분 처리가 용이해 역전파 학습에 적당 딥러닝에서는 이진판단 처리에 [접근3]이용 뒤에 소개될 시그모이드 함수를 퍼셉트론 안에 삽입하면 [접근2]도 가능 💡 퍼셉트론 구조상 이진 판단 즉 0과 1을 두가지 값만 내도록하는 것은 미분이 곤란하며 역전파 학습이 거의..

1.3 신경망의 세 가지 출력 유형과 회귀 분석 문제들이 여러 종류가 있다. 회귀 분석 regression 어떤 값을 예측,추정하는 문제 하나의 특징값을 숫자로 추정 입력 정보로부터 미지의 값을 직접 추정 이진 판단 예/아니오 가운데 한 쪽을 선택 입력 정보로부터 ‘예’의 확률 추정해 후처리 선택 분류 classification 몇 가지 후보 항목 중 하나를 선택 입력 정보로부터 후보간 확률 분포 추정해 후처리

1.1 단층 퍼셉트론 신경망 구조 단층퍼셉트론 가장 기본적인 신경망 구조 일련의 퍼셉트론을 한 줄로 배치 입력 벡터 하나로부터 출력 벡터 하나를 단번에 생성 입출력 패턴 입력벡터: x = (x1,x2,x3,x4) 출력벡터: y = (y1,y2,y3) 문제의 내용에 따라 크기가 결정됨 퍼셉트론 열 P1,P2,P3 출력 벡터 크기만큼의 퍼셉트론 배치 가중치 weight 입력 벡터와 퍼셉트론 사이의 완전 연결 [입력벡터크기, 퍼셉트론개수] 형태의 행렬 입력 값에 가중치의 값을 곱한 값들의 합이 출력 노드의 값으로 출력됨. weight를 수정해 나가는 과정이 학습 과정. 어떤 입력 값을 주었을 때 웨이트 값에 따라서 출력이 결정되는 구조. 편향 bias 퍼셉트론 별로 가산되는 스칼라 값 [퍼셉트론 개수] 형태의..