This is an old revision of the document!
뉴런(Neural)
수학적 개념
기본적으로 두가지 함수를 순서대로 실행하는 하나의 계산단위라고 보면된다.
1단게 : 이전 층의 뉴런들로부터 입력신호&중요도(=가중치, $w$)를 받아서 모두 곱한뒤 편향(b)를 더함. ($ sum = (w_1 x_1 + w_2 x_2 + ...)+b $)
2단계 : 1단계 계산된 결과를 활성화함수에 넣어서 활성화값을 받는다.
풀어서 개념 설명
각 뉴런들은 뭔가 (이미지가 될수도, 텍스트가 될수도 있음) 입력으로 들어오면 이미 셋업된 기준대로 1단계,2단계를 거쳐 숫자를 뽑아낸다.
숫자를 인식하는 [[딥러닝:네트워크|모델]]의 [[딥러닝:레이어]]의 각 뉴런의 경우 대충 이하와 같다
입력레이어 뉴런은 28 $ \times $ 28= 784개가 잇다고 치면 뉴런 하나하나가 픽셀 하나하나를 담단한다. (LED판에에 불빛 하나하나가 각 뉴런 라고 생각함됨)
1번 픽셀은 1번뉴런, 2번픽셀은 2번 뉴런이 담당한다 생각하자. 해당 레이어는 결과적으로 “이번엔 10% 픽셀만 불 들어왔네” 정도 출력하는 역할.
첫번쨰 은닉레이어는 이미지의 아주 작은 부분(선, 점, 빗금) 등 잇는지 찾아냄.
여기서 뉴런의 역할은 “이미지 오른쪽 위 짧은 세로선 잇나?” 있으면 높은 활성화값을 출력한다 뭐 이런식임
두번쨰 은닉레이어는 1번 레이어의 뉴런들이 찾아낸 단순한 특징들을 조합해서 더 의미있는 모양 (원, 모서리 등)을 만듬.
C 뉴런은 여러 '곡선 탐지기' 뉴런들로부터 신호를 받습니다. 이 신호들이 강하게 들어오면 “아, 이것들을 합치니 완전한 원(loop)이 되는구나!”라고 판단하고 높은 숫자를 출력합니다. D 뉴런은 '가로선'과 '세로선' 신호를 받아 '모서리'를 찾아냅니다.
최종적으로 출력레이어는 조합된 모양을 보고 이건 무슨 숫자다 라고 결정내리며,
총 10개의 뉴런(0~9) 각 숫자를 맞음.