Backpropagation - Neural network를 학습시키기 위해 backpropagation 이라는 방법을 사용할 것인데, 다음과 같이 작동한다. Backpropagation procedure - feedforward 연산 수행 - 모델의 출력 결과와 바람직한 결과(desired output)를 비교 - 오류를 계산 - 오류를 각각의 weights로 분산시키기위해 feedforward 연산을 역방향으로 수행(backpropagation) - 이 결과값을 이용하여 weights를 업데이트하고 더 나은 모델을 얻는다. - 최선의 모델을 얻을 때 까지 위 과정을 반복. - feedforward부터 recap해보자. - 우리는 하나의 파랑 점(y = 1)을 input으로 집어넣을 경우 그 좌표를 X..
Feedforward - 입력을 출력으로 변환하는데 사용되는 process neural networks. - 우리는 지금까지 neural network가 뭔지 알아봤으니, 그걸 어떻게 학습(train) 시킬지에 대해 알아보자 - 학습은 우리가 가진 데이터를 모델링 하기위해서 edges에 어떤 인자(parameters)들을 가질 것인지를 의미한다. - 그렇기때문에 이를 알아보기위해선 input을 통해 output이 리턴되는 프로세스를 자세히 살펴봐야한다. - X1과 X2를 input으로, y =1 즉 파란점인 모델의 경우 - w1과 w2는 edges에 있는 weights이고, B는 note에 있는 bias이다. - w1의 값이 w2보다 더 크므로 굵은선으로 표시됨. - 빨강영역에 있는 점인데 해당 점은 파..