DeepLearning_Lec12 - 8BitsCoding/RobotMentor GitHub Wiki

세상에 많은 데이터는 데이터 하나만으로 존재하지 않고 데이터 상호 연관성이 존재한다.

예를들어 자연어를 보자면 앞/뒤 단어의 연관성으로 언어의 전체를 이해할 때가 많을 것이다.

이러한 Sequence data의 처리는 CNN에서 구현이 힘들다.

구현은 대략 이런식으로 한다...

시작 x0의 결과가 다음 데이터 연산 x1의 연산에 영향을 미치게된다.

이런식의 반복...

계산은 어떻게 하나??

fw라는 함수에 이전 state를 적용시킨다

뭐야 저게 다야? 저걸로 구현가능?

여기서 하고싶은 것은 h만 입려해도 ello를 예측해주는 것을 만들고 싶다(=language model)