본문 바로가기

deep learning

[Deep Learning] 신경망 기초6 : 활성화 함수 Activation Functions Activation Functions (활성화 함수) 활성화 함수는 수많은 특징(feature)들로 예측할 타겟을 정의하고 이 값들을 학습하고 분류하는 것을 만들기 위해 데이터를 연산하다 보면 이상치라 불리우는 튀는 데이터가 있을 수도 있고 특징들을 구분짓는 값들도 있으며 결과에 필요없는 데이터가 존재 하기도 한다. 이러한 데이터들을 연산 하기 위해서 전처리를 통해 미리 조절하기도 하지만 완벽히 처리 할 수 없기 때문에 활성화 함수를 통해서 데이터의 폭을 어느정도 정의하여 연산 값을 내보내기 위한 함수. Sigmoid Function 0~1사이의 값을 가지며, 0을 기준으로 양수를 가지면, 0.5보다 커지고 음수를 가지면 0.5보다 작아진다. threshold 0.5를 기준으로 binary classif.. 더보기
[Deep Learning] 딥러닝의 역사; 딥러닝이라고 쓰고 인공지능이라고 읽는다 패턴인식(Pattern Recognition) 신경망(Neural Networks) 머신러닝 딥러닝(신경망) .... 이미지인식(Image Recogition) 컴퓨터비전(Computer Vision) 딥러닝(신경망) .... 자연어처리(Natural Language Processing) 자연어인식 (Natural Language Understanding) → 딥러닝 기반의 자연어 인식 휴리스틱 프로그램 (Heuristic Programs) 게임 기술 (Game Playing) 강화학습(Reinforcement Learning) → 딥러닝 기반 강화학습 (Deep Reinforcement Learning) 로보틱스(Robotics) 이중 내 관심사는 패턴인식이므로, 이번 섹션 열공 해야한다. ref. h.. 더보기
[수학] 합성함수 미분(Chain Rule) 함수의 함수(합성함수)를 미분하기 위해 사용하는 방식 F(x)=f(g(x)) F′(x) → f′((g(x))⋅g′(x) Chain Rule = 양파까기 미분을 할때 깥 함수 (f(x))부터 미분을 한 후 안에있는 함수 (g(x))를 미분한다. 예제 F(x)=(2x^3+7)^6 를 x에 대해 미분하려는 경우 f(x)=x^6, g(x)=2x^3+7로 설정 F′(x)=6(2x^3+7)^5⋅6x^2 Chain Rule은 Deep learning의 핵심 개념 중 하나인 Backward Propagation을 이해하는데 중요하기 때문에 시간이 될 때마다 연습 하자. 더보기