[인공지능] 신경망

신경망(ANN) :  입력층, 은닉층, 출력층으로 이루어져 있으며, 은닉층의 뉴런은 사람 눈에는 보이지 않음

 

활성화 함수

활성화 함수(h(x)함수) : 입력 신호의 총합을 출력 신호로 변환하는 함수로 입력 신호의 총합이 활성화를 일으키는지 정하

는 역할

가중치가 곱해진 입력 신호의 총합을 계산하고, 그 합을 활성 화 함수에 입력해 결과를 내는 2 단계로 처리됨

 

선형함수 : 변환기에 무언가 입력했을 때 출력이 입력의 상수배만큼 변하 는 함수

• 선형 함수의 수식: f ( x ) = ax + b 이고, 이 때 a 와 b 는 상수
• 선형 함수는 곧은 1 개의 직선이 됨

비선형 함수 : ‘선형이 아닌’ 함수, 직선 1 개로는 그릴 수 없는 함수

---

 

계단함수 : 비선형 함수로 0을 경계로 출력이 갑자기 바뀐다

시그모이드 함수 : 비선형 함수로 부드러운 곡선이며 입력에 따라 출력이 연속적으로 변화

ReLU함수 : 입력이 0을 넘으면 그 입력을 그대로 출력하고, 0 이하면 0을 출력

 

---

다차원 배열

다차원 배열 : 숫자의 집합으로 숫자가 한 줄로 늘어선 것이나 직사각형으로 늘어놓은것, 3차원으로 늘어놓은 것이나 더 일반화 하면 N차원으로 나열하는 것

다차원 배열과 행렬의 곱

신경망의 내적 : 편향과 활성화 함수를 생략하고 가중치만 갖는 신경망의 내적

 

 

3층 신경망

입력층 2개, 첫번째 은닉층은 3개, 두번째 은닉층은 2개, 출력층은 2개의 뉴련으로 구성

---

 

출력층 설계

항등함수(Identity Function)  : 입력 값을 그대로 출력하는 함수, 회귀에서 주로 사용

소프트맥스 함수(Softmax Function): 입력 값을 확률 분포로 변환하는 함수, 출력 값은 0에서 1 사이이며 출력값 총합은 1, 분류에서 주로 사용

 

 

 

 

뷴류에서는 출력층의 뉴런 수를 분류하려는 클래스 수와 같게 설정