2. Neural Networks / L1. Introduction to Neural Networks - Perceptrons as Logical Operators

Perceptrons as Logical Operators

 - 논리연산자로서의 퍼셉트론에 대해 알아본다.

 - AND, OR, NOT, XOR Perceptron을 구현해보자.

 · AND Perceptron

 - 기본적인 AND연산을 Perceptron으로 구현하려면?

 - INPUT에 대한 TRUE 또는 FALSE 값을 1과 0으로 표현하고, 이전과 동일하게

 - 기준선을 정의한다(weights와 bias를 반영하여).

 - 그 이후 positive area와 negative area로 구분지어 퍼셉트론이 해당 input들을 그리게하고

 - Positive area의 경우 1을, Negative area의 경우 0을 리턴하게 한다.

 · OR Perceptron

 - OR 연산 또한 마찬가지다. 위와 동일한 알고리즘으로 퍼셉트론이 작동하며, 

 - 다른점은 기준선이 다른 weights와 bias가 반영되므로 다르다.

 - 기준선이 아래로 이동한다는 것만 제외하고는 AND연산과 매우 유사하다.

 · NOT Perceptron

 - NOT연산은 하나의 입력만 고려한다. 

 - input이 1이면 0을 리턴, input이 0이면 1을 리턴.

 - 퍼셉트론이 다른 input은 무시한다.

 · XOR Perceptron

 - XOR 퍼셉트론은 다음과같은 형상을 하는데, 과연 여기서 기준선을 잡을 수 있을까?

 - 간단히말해 이러한 아이디어로 진행되면 된다.

 - 퍼셉트론을 조합하여 하나의 output이 또다른 노드의 input이 되는 구조로 진행하면 된다.

 - 즉, 이러한 개념이 multi-layer perception 또는 neural network를 구성하는 형태이다.

 - NAND(AND → NOT) 와 OR의 Output을 각각 다시 Input으로 두고 AND연산을 처리하면 

 - XOR의 결과를 도출해 낼 수 있다.