self.DL.(01). Perceptron

🧐   Deep Learning _ intro. 

🤫 Deep Neural Network
우리의 신경망은 임계치를 넘는 자극을 신호로 전달받고 그에 해당하는 반응을 하는데,
이처럼 수많은 퍼셉트론(perceptron)이 연결되어 연산결과를 주고 받으며 임계치(threshold)를 넘긴 값에 대해 신경망을 기반으로 학습하는 방법을 "딥러닝"이라 한다.


🤫 XOR Problem과 Perceptron
이런 딥러닝이 발전하게 된 계기는 퍼셉트론 때문이다.
초기 딥러닝 이전, 퍼셉트론(perceptron)은 AND, OR등의 직선을 이용해 0과 1을 분리 할 수 있는 논리연산을 해결할 수 있었지만 XOR문제를 해결할 수 없었다. (https://towardsdatascience.com/perceptrons-logical-functions-and-the-xor-problem-37ca5025790a)
이런 XOR문제는 0과 1에대한 분리를 직선으로 할 수 없었기에 차원 즉, layer를 늘리는 multi-layer perceptron이 필요했고, 이를 계기로 점점 딥러닝이 발전하게 되었다.


🤫 Deep Learning 과정

딥러닝의 과정을 레몬과 포도의 분류를 예로 들면, 이미지(입력)데이터를 입력받은 분류기 f는 딥러닝을 통해 레몬과 포도의 값을 출력, 더 높은 값으로 예측한다

 

 

🧐   Perceptron ,  Basic of Deep Learning 

🤫 perceptron의 연산 과정

퍼셉트론(perceptron)은 신경망의 최소단위로 input과 output이 존재한다.

입력데이터(x)에 가중치(w)를 곱하여 시그마(Σ)를 이용해 wx들을 더한 값을 가중합(= Σ(wx) + b)이라 하며
이 가중합을 활성화 함수, activation function(sigmoid, ReLu, Leaky ReLu 등)를 거쳐 출력값(y)을 출력.

이때, 가중합 Σ(wx) + b에서 b는 편향, bias를 의미하는데 가중치와 입력데이터의 영향을 받지 않기에

독립적으로 가중합에 편향을 더하기에 최종 출력 output값에 영향을 줄 수 있다.

또한, 활성화 함수(activation function)의 종류(sigmoid, ReLu, …)에 따라 결과가 전혀 상이하게 나올 수도 있다.

 

🤫 perceptron으로의 분류.

1. 가장 먼저 데이터를 기존 형태인 “행렬”에서 “벡터”로 바꿔야 한다.
   실제 이미지 파일로 예를 들면 이미지 픽셀값 기준으로 이미지 데이터 벡터로 바꿔 신경망에 적용할 준비를 한다.

  2. 위의 가중합을 진행하기 위해 wTx + b를 통해 구한 값을 활성함수에 넣는다.

  3. 더 높은값을 갖는 분류기를 기준으로 분류한다.

 

 

🧐   Perceptron  실습