theta가 필요한 이유 위의 그림은 theta가 없을 때의 연산을 나타낸 것이다. 이 때 활성화 함수가 sigmoid라면 입력이 (0,0)일 때 출력이 다른 수가 나오는 경우를 만족할 수 있을까? theta가 없다면 net은 입력이 (0,0)일 때 항상 0이다. 따라서 출력은 sigmoid 함수를 거쳐 항상 1/2 이 나온다. (0,0)의 입력에서 다른 출력이 나오게 하려면 sigmoid 함수를 output축(y축) 방향으로 움직일 수 있어야한다. 이 역할을 위해서 theta는 존재하는 것이다! net = x1*w1 + x2*x2 + theta , O = f(net) = f(theta) 이므로 theta 만큼 그래프를 net축으로 이동한 것처럼 생각할 수 있다. 왼쪽 기존의 sigmoid 함수에서 (0..

문제 : 알고리즘 문제 해결 전략 [록페스티벌] p6 문제 커다란 공연장을 빌려서 록 페스티벌을 개최하려고 합니다. 이 페스티벌은 여러 날 동안 진행되며, 하루에 한 팀의 밴드가 공연장에서 콘서트를 하게 됩니다. 전체 밴드를 몇 팀 섭외할 지는 아직 결정하지 않았지만, 페스티벌의 간판 스타인 L개의 팀은 이미 섭외가 끝난 상태입니다. 따라서 페스티벌은 최소 L일 이상 진행하게 됩니다. 이번에 사용할 공연장은 하루 빌리는 데 드는 비용이 매일 매일 다릅니다. 때문에 공연 일정을 잘 정해서 공연장 대여 비용을 줄이려고 합니다. 앞으로 N일간의 공연장 대여 비용을 알고 있다고 합시다. 이 중 L일 이상을 연속해서 대여하되, 공연장을 하루 빌리는 데 드는 평균 비용을 최소화하려면 어떻게 공연장을 빌려야 할까요?..

신경망의 원리 이제 multi-layer perceptron을 이용할 수 있게 되었지만, 정확히 구동시키기 위해 알아야할 것이 있다. 주어진 input을 가지고 계산을 해서 output을 낼 수는 있지만, output 값이 주어진 정답과 다를 때 학습하는 기능을 아직 구현하지 못했다. 여기서 학습이란 w값을 조정하는 것을 말한다. w값을 조정하는 학습을 하기 위해서는 랜덤, 조금씩 옮겨보기 의 방식보다는 미분을 사용하는 것이 좋다. w에 대한 Error의 미분값을 구한 후 반대쪽으로 일정치만큼 움직여야 하므로 Error를 w의 식으로 나타낼 수 있어야 하고, 조정되는 w의 값을 이와 관련하여 표현할 수 있어야한다. 결국 error를 줄이기 위해 w값을 조정하는 과정에 error에 대한 w의 미분값이 필요..

Restricted Boltzmann machine (RBM) 구성 두개의 층(가시층, 은닉층)으로 구성되어 있는 단일 신경망 심층 신뢰 신경망을 구성하는 요소로 쓰임 각 층의 노드는 다른 층의 노드와 모두 연결되어있고, 같은 층의 노드끼리는 연결x 식으로 계산하면 모든 입력노드를 이용한 식이 은닉층 노드의 값이 됨 대칭 이분 그래프 라고도 불림 비지도학습 학습 중 backward sweep 시 forward sweep 했을 때와 마찬가지로 층간 모든 노드의 연결을 통해서 값이 건너간다. 즉, 가시층의 값은 은닉층의 모든 값을 가중치를 곱해서 더한다. 그 결과 오차는 재구성한 값과 입력값의 차이이다. forward sweep w가 주어졌을 때 입력 v에 대한 은닉층 h의 조건부 확률 backward sw..

머리말 처음부터 완전한 체계를 갖추고 발전하는 학문은 없으므로, 발전 과정에서 학자들은 모두 어둠 속에서 직관에 의존해 헤매게 된다.(삽질한다.) 1. 문제 해결과 프로그래밍 대회 1.1 도입 메모리, 시간 제한, 재사용성, 간결성 을 고려해야함 이러한 제약 조건과 요구사항을 이해하고 최선의 방법을 찾아내는 것이 '문제해결능력' 1.2 프로그래밍 대회 그래픽 인터페이스 x 텍스트 => 텍스트 시간 제한, 메모리 제한 존재 다양한 알고리즘 설계기법, 자료구조 사용 정답, 오답의 여부가 명확 빠르고 객관적인 피드백을 주기 때문 제출한 프로그램의 실행 시간, 메모리 사용량이 제공 작은 변경이 어떻게 영향을 끼치는지 볼 수 있음 작은 작업이라 완벽하게 작성할 수 있음 경쟁하는 환경 경쟁은 동기가 되기도 함 제출..

동적할당 malloc 함수 사용 void *malloc(size_t size) 포인트 형을 반환하고 할당할 메모리 사이즈를 매개변수로 받음 ex_) (int*)malloc(sizeof(int)*5) : int형 5칸짜리 배열을 메모리에 할당 후 주소 반환 배열의 의미 2차원 배열 배열이 어떻게 구성되어 있는지 2차원 배열을 예제로 설명하면, int 형이라 가정 처음에는 이렇게 행 만큼의 길이를 갖는 1차원 배열을 생성한다. 이 1차원 배열은 포인터가 담긴 배열이다. 각 포인터가 열 만큼의 길이를 갖는 1차원 배열을 가르킨다. 따라서 동적할당을 할 때도 똑같은 방식으로 int*형 1차원 배열의 메모리를 먼저 동적할당한 후, 반복문으로 각각의 포인터 요소에 접근해서 int형 1차원 배열의 메모리를 동적할당 ..

규칙 main은 되도록 다른 함수, 구조체, 변수를 포함하지 말기 역할 별로 소스파일 분할하기 다른 소스파일의 전역변수는 extern으로 끌어오지 말기 소스파일 간의 계층관계는 없애고 가능한 독립적으로 만들기 소스파일 두 개가 서로 의존하는 경우는 만들지 말기 전역변수는 거의 무조건 static 걸기 static은 다른 소스파일에서 사용할 수 x 헤더파일 vs 소스파일 타이밍의 차이! https://m.blog.naver.com/justkukaro/220767142003 참고 헤더파일로 만들었을 경우 => 하나의 소스파일, 목적파일로 생성됨 소스파일로 만들었을 경우 => 여러 개의 소스파일, 목적파일로 생성됨 문제점 Main.c (소스파일), Calculater.c (소스파일) 두 파일에서 Print.h..

https://www.acmicpc.net/problem/2839 나의 답 # 백준 2839번 : 설탕 배달 # 2020-02-01 num = int(input()) count = 0 while num>=3 : if not(num%5) : # 5의 배수이면 count+= num/5 break else : count+=1 num-=3 if num==1 or num==2: count = -1 else : count += 0 print(int(count)) 분석 다이나믹 알고리즘 앞선 2문제의 영향으로 처음에는 모든 경우의 수를 찾아볼까 생각했다. 하지만 이전 문제와 달리 수의 범위가 확연히 커진데다가 연산의 시간이 너무 오래걸릴 것 같아서 이러한 방식은 아닐 거라고 결론 내렸다. 경우의 수 (특징 찾기) 그..