[딥러닝] 7

Batch Normalization_논문정리2

FAST AND ACCURATE DEEP NETWORK LEARNING BY EXPONENTIAL LINEAR UNITS (ELUS) 논문을 참고하였으며 학부 연구생으로써 딥러닝에 대해 깊이 있는 공부를 하고자 교내 논문스터디에서 공부한 내용을 정리하였습니다. 참고자료는 출처를 남겨두었으며 부족한 부분이 있을 수 있으며 문제가 있을 시 삭제하도록 하겠습니다 Batch Normalization_논문정리1 본 자료는 다른 동아리원분과 함께 제작한 자료이며 무단 배포를 금지합니다.

[딥러닝] 2023.11.09

Batch Normalization_논문정리1

FAST AND ACCURATE DEEP NETWORK LEARNING BY EXPONENTIAL LINEAR UNITS (ELUS) 논문을 참고하였으며 학부 연구생으로써 딥러닝에 대해 깊이 있는 공부를 하고자 교내 논문스터디에서 공부한 내용을 정리하였습니다. 참고자료는 출처를 남겨두었으며 부족한 부분이 있을 수 있으며 문제가 있을 시 삭제하도록 하겠습니다 Batch Normalization_논문정리1 논문스터디 개념정리 batch normalization 학습하는 과정 자체를 전체적으로 안정화"하여 학습 속도를 가속 시킬 수 있는 근본적인 방법인 "배치 정규화(Batch Normalization)" / 정규화를 하는 이유는 학습을 더 빨리 하기 위해서 or Local optimum 문제에 빠지는 가능성..

[딥러닝] 2023.11.02

[기계학습/인공지능] Kernel method

#기계학습#딥러닝#머신러닝#인공지능#정보시스템공학과#컴퓨터공학과 #largemarginmethod #이론공부#학교공부 https://wikidocs.net/24958 / https://knowable.tistory.com/46?category=931709 ​의 글과 사진을 참고하였습니다. 문제가 있을 시 삭제하겠습니다. ​https://blog.naver.com/haein0758/222765329789 와 동일한 작성자입니다. 1.Kernel method consider a nonliner transforamtion for data (non-linear 데이터를 분류하기 위해 사용하는 방식이다) orginal data를 kennel space를 통해 표현할 수 있다. 2차원에서 표현되는 이 식을, 3차원..

[딥러닝] 2022.06.09

[기계학습/인공지능] Probabilistic Model

#기계학습#딥러닝#머신러닝#인공지능#정보시스템공학과#컴퓨터공학과 #largemarginmethod #이론공부#학교공부 https://wikidocs.net/24958 / https://knowable.tistory.com/46?category=931709 ​의 글과 사진을 참고하였습니다. 문제가 있을 시 삭제하겠습니다. ​https://blog.naver.com/haein0758/222765310556 동일 작성자입니다. 1. Generative method vs discrimative method 각각 일반적으로 분류하는 모델과, 경계선을 찾아 class를 분류하는 모델이다. 이번 포스팅은 주로 generative method 에 대해 작성할 것이다. ​ 2. Probability ratio of co..

[딥러닝] 2022.06.09

[기계학습/인공지능] Support Vector Marchine(SVM)

#기계학습#딥러닝#머신러닝#인공지능#정보시스템공학과#컴퓨터공학과 #svm #이론공부#학교공부 https://wikidocs.net/24958 / https://knowable.tistory.com/46?category=931709 ​의 글과 사진을 참고하였습니다. 문제가 있을 시 삭제하겠습니다. ​1. Large Margin Classifier 지난 블로그 글에서 Large Margin Classifer를 인용하여 정리하였습니다. O와 X를 분류하는 최적의 선(boundary)를 WT*X-b=0 이라고 설정합니다. 각 영역에서 최적의 선과 가장 가까운 점의 거리를 margin이라고 부릅니다. 이 마진을 얻기 위해 기준을 1과 -1이라고 지정합니다. ​ 이때, w값은 margin에 영향을 줍니다. 주는 이..

[딥러닝] 2022.06.08

[기계학습/인공지능] Large margin method

#기계학습 #딥러닝 #머신러닝 #인공지능 #정보시스템공학과 #컴퓨터공학과 #largemargin #모델링 #이론공부 #학교공부 https://wikidocs.net/24958 / https://knowable.tistory.com/46?category=931709 ​의 글과 사진을 참고하였습니다. 문제가 있을 시 삭제하겠습니다. https://blog.naver.com/haein0758/222765098559 동일한 글쓴이 입니다. ​ 1. Optimization with constraint(구속조건 있는 경우) ​앞의 내용은 L(x)를 최대화하는 값을 찾아 optimizaion 하였다. (max L(x) = dL / dx = 0 이라는 식을 새워서 계산함_ 오늘은 L(x)이외에 구속조건 g(x)가 있는..

[딥러닝] 2022.06.08

[기계학습/인공지능] Perceptron convergence theorem

https://wikidocs.net/24958 / https://knowable.tistory.com/42?category=931709 의 글과 사진을 참고하였습니다. 문제가 있을 시 삭제하겠습니다. https://blog.naver.com/haein0758/222765052356 글과 동일한 작성자입니다. 1. Perceptron? 실제 뇌를 구성하는 신경 세포 뉴런과 동작이 비슷합니다. 신호를 받아들이고, 이 신호를 다시 다른 말단에 전송합니다. 퍼셉트론도 마찬가지입니다. 초기 형태의 인공신경망으로 신경 세포 뉴런이 입력을 받아들이이고 출력하는 것처럼 퍼셉트론에서 각각 입력값과 출력값을 내보냅니다. 그림의 x는 입력값, w는 가중치, y는 출력값입니다. 가중치가 크면 클수록 해당 입력 값이 중요하다..

[딥러닝] 2022.06.08