[딥러닝] 1. 단층 퍼셉트론(SLP) _ 1. 회귀분석_ 1.2 텐서 연산과 미니배치의 활용

데이터를 한 번에 여러개를 넣고 계산하겠다. → 행렬로 구성

 

텐서를 통해 연산을 하다 보면 행렬 같은 것들을 병렬로 한 번에 처리할 수 있는 효율적인 구조가 된다. 그래서 입력을 여러개를 한 번에 넣어서 처리를 할 수 있다.

미니배치로 처리 속도 향상을 위해 여러 데이터를 한 번에 처리함.

텐서

• 다차원 숫자 배열 정도로 이해해도 무방
• 스칼라(값이 하나),벡터, 행렬: 각각 0차원, 1차원, 2차원 텐서..n차원 텐서

텐서 연산

• 파이썬의 numpy라이브러리 등이 효율적 지원
• 반복문 사용보다 파이썬 인터프리터의 텐서 연산이 훨씬 빠름
• 병렬 수치 연산 자원용 GPU사용시 속도 차이 더욱 커짐

미니배치

• 여러 데이터를 한꺼번에 처리
• 반복처리대신 텐서 연산 활용할 수 있어 처리 속도 향상
• 학습에서 특정 데이터 영향을 덜 받는 효과

에포크: 학습 데이터 전체를 한 차례 처리

• 미니배치 크기가 커질수록 각 에포크당 처리 횟수 감소

만약 데이터가 1000개고 미니배치가 10개면 1000/10 = 100 즉 100번을 미니배치를 돌리면 1에포크가 된다.