인공신경망
- 스스로 학습 및 개선하는 대규모 신경 네트워크
- 다층구조 형태의 신경망을 기반으로 하는 머신 러닝(machine learning)의 한 분야로, 다량의 데이터로부터 높은 수준의 추상화 모델을 구축하고자 하는 기법
- 즉, 컴퓨터가 많은 양의 데이터를 이용해 마치 사람처럼 스스로 학습할 수 있게 하기 위해 인공 신경망(ANN: artificial neural network)을 기반으로 구축한 기계 학습 기술로, 인간의 뇌가 작동하는 것과 비슷한 원리
Neural Network
- **신경망(NN)**이라고 하는 인공 신경망(ANN)은 인간의 두뇌를 구성하는 생물학적 신경망에서 영감을 받은 컴퓨팅 시스템
- “외부의 자극(input)”에 “가중치(weight)”를 곱한 총합이 “활성함수(activation function)”에 따라 출력이 결정되는 방식으로 구성
- 활성함수(activation function) : 입력 신호의 총합을 출력 신호로 변환하는 함수
- 사용하는 이유 : 딥러닝 모델의 표현력을 향상시켜주기 위해서 + 사인곡선처럼 직선으로는 근사 시킬 수 없는(고양이,강아지사진처럼 무수히 많고 복잡한 특징을 가진) 비선형 데이터를 표현하려면 딥러닝 모델도 비선형을 지니고 있어야함
- 활성화 함수를 레이어 사이 사이에 넣어줌 -> 모델이 비선형 데이터도 표현할 수 있게 되었음
- 손실함수(loss function) : 예측한 값과 실제 정답의 차이를 비교하기 위한 함수
Ref
Learning Rate(학습률) 개념
Epoch, Iteration, Batch size 개념
Optimizer 역할과 종류