RNN의 역전파 : BPTT - leemik3/tensorflow-2.0 GitHub Wiki

모든 단계마다 처음부터 끝까지 역전파

• 오차가 멀리 전파될 때 : 기울기 소멸 문제 발생 - 해결방안
  • truncated BPTT (일정 시점까지만 오류 역전파)
  • LSTM
  • GRU