목록전체 글 (121)

YZ ZONE

[딥러닝] 1. 단층 퍼셉트론(SLP) _ 1. 회귀분석_ 1.6 경사하강법과 역전파

정답과 추정한 값의 차이를 줄여나가는 것이 학습의 과정인데 이것을 경사하강법으로 찾아나감. 경사하강법 gradient descent algorithm w(weight)값을 조정해나가는 일종의 전략 딥러닝의 가장 기본적인 학습 알고리즘 함수의 기울기 계산해 함숫값이 작아지는 방향으로 이동 반복 미니배치 입력에 대해 순전파와 역전파를 번갈아 반복 수행 → 입력 넣고 출력이 나왔을때 출력과 정답의 차이를 미분을 통해 기울기로 구해 얼만큼 하강시켜야 하는지 기울기를 계산해 w를 수정해 나감 → 이 과정을 기울기가 작아질때까지 출력과 정답의 차이가 거의 나지 않을 때까지 반복 순전파: 입력 정보로부터 손실 함수 계산 과정 신경망 구조를 따라가면서 현재의 파라미터값 이용해 계산 역전파 정답과 출력한 추정(예측)값의..
IT/딥러닝 2023. 7. 28. 15:34
[딥러닝] 1. 단층 퍼셉트론(SLP) _ 1. 회귀분석_1.5 회귀분석과 MSE 손실함수

손실 함수 lost function 추정을 해서 나온 값과 정답의 차값을 알려줄 때 쓰는 계산식 항상 0 이상, 미분 가능하고(그래야 기울기를 구할 수 있음) 추정이 정확해질수록 작아지는 값 손실함수 값을 줄이는 것을 학습 목표로 삼게 됨 파라미터(w) 상태에 따라 값이 달라 함수라고 표현 비용함수. cost function라고도 부른다 회귀분석에서는 신경망 출력과 정답의 MSE가 이런 성질 보유 MSE:평균제곱오차 Mean Squared Error 신경망 출력, 즉 추정이 (t1, t2..tn)이고 데이터셋의 정답 정보가(y1,y2…yn)일 때 MSE = 오차의 제곱의 평균 추정이 정확해질수록 0에 수렴하며 정답과 일치할 때 0 (오차가 적을수록 정확한 추정) 계산이 간단하고 미분도 쉽다. → MSE를..
IT/딥러닝 2023. 7. 28. 15:30
[딥러닝] 1. 단층 퍼셉트론(SLP) _ 1. 회귀분석_ 1.3 신경망의 세 가지 출력 유형과 회귀 분석

1.3 신경망의 세 가지 출력 유형과 회귀 분석 문제들이 여러 종류가 있다. 회귀 분석 regression 어떤 값을 예측,추정하는 문제 하나의 특징값을 숫자로 추정 입력 정보로부터 미지의 값을 직접 추정 이진 판단 예/아니오 가운데 한 쪽을 선택 입력 정보로부터 ‘예’의 확률 추정해 후처리 선택 분류 classification 몇 가지 후보 항목 중 하나를 선택 입력 정보로부터 후보간 확률 분포 추정해 후처리
IT/딥러닝 2023. 7. 26. 13:46
[딥러닝] 1. 단층 퍼셉트론(SLP) _ 1. 회귀분석_ 1.2 텐서 연산과 미니배치의 활용

데이터를 한 번에 여러개를 넣고 계산하겠다. → 행렬로 구성 텐서를 통해 연산을 하다 보면 행렬 같은 것들을 병렬로 한 번에 처리할 수 있는 효율적인 구조가 된다. 그래서 입력을 여러개를 한 번에 넣어서 처리를 할 수 있다. 미니배치로 처리 속도 향상을 위해 여러 데이터를 한 번에 처리함. 텐서 다차원 숫자 배열 정도로 이해해도 무방 스칼라(값이 하나),벡터, 행렬: 각각 0차원, 1차원, 2차원 텐서..n차원 텐서 텐서 연산 파이썬의 numpy라이브러리 등이 효율적 지원 반복문 사용보다 파이썬 인터프리터의 텐서 연산이 훨씬 빠름 병렬 수치 연산 자원용 GPU사용시 속도 차이 더욱 커짐 미니배치 여러 데이터를 한꺼번에 처리 반복처리대신 텐서 연산 활용할 수 있어 처리 속도 향상 학습에서 특정 데이터 영향..
IT/딥러닝 2023. 7. 26. 13:42
[딥러닝] 1. 단층 퍼셉트론(SLP) _ 1. 회귀분석_1.1 단층 퍼셉트론 신경망 구조

1.1 단층 퍼셉트론 신경망 구조 단층퍼셉트론 가장 기본적인 신경망 구조 일련의 퍼셉트론을 한 줄로 배치 입력 벡터 하나로부터 출력 벡터 하나를 단번에 생성 입출력 패턴 입력벡터: x = (x1,x2,x3,x4) 출력벡터: y = (y1,y2,y3) 문제의 내용에 따라 크기가 결정됨 퍼셉트론 열 P1,P2,P3 출력 벡터 크기만큼의 퍼셉트론 배치 가중치 weight 입력 벡터와 퍼셉트론 사이의 완전 연결 [입력벡터크기, 퍼셉트론개수] 형태의 행렬 입력 값에 가중치의 값을 곱한 값들의 합이 출력 노드의 값으로 출력됨. weight를 수정해 나가는 과정이 학습 과정. 어떤 입력 값을 주었을 때 웨이트 값에 따라서 출력이 결정되는 구조. 편향 bias 퍼셉트론 별로 가산되는 스칼라 값 [퍼셉트론 개수] 형태의..
IT/딥러닝 2023. 7. 26. 13:38
두 수의 합

문제 정수 num1과 num2가 주어질 때, num1과 num2의 합을 return하도록 soltuion 함수를 완성해주세요. 제한사항 -50,000 ≤ num1 ≤ 50,000 -50,000 ≤ num2 ≤ 50,000 입출력 예 num1 num2 result2 2 3 5 100 2 102 입출력 예 설명 입출력 예 #1 num1이 2이고 num2가 3이므로 2 + 3 = 5를 return합니다. 입출력 예 #2 num1이 100이고 num2가 2이므로 100 + 2 = 102를 return합니다. 코드 def solution(num1, num2): answer = num1+num2 return answer
코테/Programmers(Python3) 2023. 5. 9. 00:12
이전 Prev 1 2 3 4 5 6 ··· 21 Next 다음