인공신경망 설계 시 고려사항 Network topology 네트워크의 모양 (feed forward, feed backward) Activation function 출력의 형태 Objectives 분류? 회귀? Loss function, Error로 나타낼 수 있음 Optimizers weight update Generalization Overfitting 방지 2. activation function 출력의 형태 결정 1. one-hot vector 여러 값 중 하나의 값만 출력 ex_ 숫자 식별 2. softmax function 해당 출력이 나올 확률로 표현 3. objective function 기타 목적함수 Mean absolute error / mae Mean absolute percentag..

딥러닝의 시작 이러한 multi-layer 의 forward-propagation 과정을 식으로 나타내보면, h1 = f(x11*w11+x12*w21) net = h1*w13+h2*w23 = f(x11*w11+x12*w21)*w13+f(x11*w12+x12*w22)*w23 여기서 f 즉, activation fuction이 linear한 function이라고 가정해보자. 그렇다면 f(x) = ax의 형태이므로, net = x11*a(w11*w13+w12*w23)+x12*a(w21*w13+w22*w23) 으로 나타낼 수 있다. 그리고 이러한 net은 가장 처음에 주어진 input layer에다가 상수를 곱한 꼴이므로 one-layer로 나타낼 수 있다. 즉, 여러 개의 layer를 거쳤음에도 쉬운 문제로 ..

weight의 변화 1. 랜덤 실습 one-layer perceptron weight를 랜덤으로 학습하는 퍼셉트론 만들기 input, weight 갯수는 입력받기 output은 1개로 고정 /* 2020-01-28 W.HE one-layer perceptron */ #include #include #include main() { /* variable set */ int input_num; float* input; float* w; float output = 0; float answer = 3; int try_num = 0; /* input input_num */ printf("enter number of inputs\n"); scanf_s("%d", &input_num); /* memory allocat..