[Vision DeepLearning]. Basic Deep Learning with MNIST data

[What is Deep Learning ?]

Deep Learning = 주어진 input에 대해 최적의 답을 구하는 함수를 찾기 위한 알고리즘 과정

XOR Problem과 같이 사람이 구하기 어려운 함수식을 가장 근사한 함수값으로 도달하게 해주는것, 그것이 바로 딥러닝이다.

이때, Deep Learning으로 구해진 해는 Universal Approximation 즉, 보편적인 근사치이다.

 

Deep Learning은 perceptron으로 이뤄진 Neural Net을 기반으로 하는 Machine Learning기법이다.

 

 

DeepLearning을 나누는 방법

 - Supervised: label이 있음
 - Unsupervised: label이 없음
 - Reinforce: 데이터의 개수가 가변적이고 observe game(현상을 관찰, 관찰해 나온 값과 바뀐 값에 대해 어떻게 학습할 것인지, 라벨이 없어서 unsupervised랑 가까우며, 실시간적이라 simulation과 엮임)

[Deep Learning의 가장 핵심이 되는 기술 → non-linearity]
non-linearity function: non-linearity한 information을 파악하는데 매우 특화된 함수

 

 

 

# 정보이론

information, 자연적 정보를 수학적으로 표현 가능하다

= 여러 정보를 value 즉, data로 나타낼 수 있다는 것으로 이때, data는 패턴으로 바뀐다.

즉, data+pattern => information을 설명가능하다.

 

 

 

 

 

 

 

 

 

 😶 실습 _ by tensorflow

단지 많은 epoch이라 해도 이를 통해 loss값을 낮출 수 있다.