DeepLearning - 8BitsCoding/RobotMentor GitHub Wiki

Lec00 : Intro

이론적 수업과 tensorflow를 이용한 실습 위주로 진행

참고사이트

Schedule

  • Machine learning basic concepts
  • Linear regression
  • Logistic regression (classification)
  • Multivariable(Vector) linear/logistic regression
  • Neural networks
  • Deep learning
    • CNN
    • RNN
    • Bidirectional Neural networks

Lec01 : 기본적 Machine Learning의 용어와 개념

  • Lec01 : 용어 설명
  • Lab01 : install tensorflow and Hellow tensorflow

Lec02 : Linear Regression Algorithms

  • Lec02 : Linear Regression Algorithms
  • Lab02 : Basic Linear Regression Example
  • Lab02_1 : Basic Linear Regression Example(using Placeholder)

정리

Linear Regression이라는 가설을 정하고 그 가설에 맞게 학습하는 방법을 설명

Lec03 : How to minimize cost

  • Lec03 : How to minimize cost
  • Lab03 : Gradient Descent를 그려보자
  • Lab03_1 : Gradient Descent 직접 구현
  • Lab03_2 : Linear Regression Algorithms 전체

정리

2강 내용 보충 cost함수를 어떻게 최소화 할지 등 보충설명 포함. + 왜 여러번 반복하면 cost함수가 작아지는지 설명

Lec04 : multi-variable linear regression

정리

여기부터는 x, y 1:1 매칭이 아니라 입력이 여러개인 경우 어떻게 학습할지에 대한 설명

Lec05 : Logistic Classification의 가설 함수 정의

Lec06 : Softmax Regression

Lec07 : 학습 rate, Overfitting, Regularization

  • Lec07 :
  • Lab07 : 학습데이터, 테스트데이터 나누어 확인
  • Lab07_01 : Learning(학습) rate에 따른 차이
  • Lab07_02 : Non-normalized input
  • Lab07_03 : MNIST Dataset

Lec08 : 딥러닝의 기본 개념(Deep Neural Nets for Everyone)

  • Lec08 :
  • Lab08 : Tensor Manipulation - Array, 2D Array ... tensorflow에서 자주쓸 함수 정리

Lec09 : XOR 문제 딥러닝으로 풀기

  • Lec09 : XOR 문제를 3가지 로직으로 푼다.
  • Lec09_1 : backpropagation
  • Lab09 : XOR 그냥 만들어보기
  • Lab09_01 : NN을 통한 XOR
  • Lab09_02 : Wide NN for XOR
  • Lab09_03 : TensorBoard for tensor debugging tool

Lec10 : ReLU, Weight 설정, Dropout, Ensemble

  • Lec10 : ReLU
  • Lec10_1 : 초기값은 어떻게 설정할 것인가?
  • Lec10_2 : Dropout, Ensemble(앙상블)
  • Lec10_3 : NN 를 활용하기
  • Lab10 : Softmax classifier for MNIST
  • Lab10_1 : Softmax를 개선하고 싶어! -> NN for MNIST : 좀 더 깊게 들어가보자
  • Lab10_2 : 초기화를 좀 더 잘하고 싶은데... -> xavier(샤비얼) initialization
  • Lab10_3 : 좀 더 깊고 넓게 학습하고 싶어!!
  • Lab10_4 : 깊어지니 Overfitting문제가 발생하네... -> Dropout
  • Lab10_5 : Optimazer

Lec11 : CNN(Convolutional Neural Networks)

구현(Lab)은 생략함 이후에 사용할 일이 있을경우 다시 정리 예정

Lec12 : RNN