DeepLearning_L03 - 8BitsCoding/RobotMentor GitHub Wiki

왜 어려번 돌려야 cost함수가 최소화 되나?

위 그림은 cost함수를 W에 대해서 그린 그림(b텀은 제외)

W에 따른 cost 함수의 최소 값을 Gradient Descent Algorithm을 통해 구하면

다시 새로운 cost함수가 나오게 된다. -> W값이 변했기 때문

따라서 여러번 반복을 해야 좋은 알고리즘이 나오게 된다.

---

Convex function

최 저점이 오직 하나인 함수 -> Gradient descent algorithm에서 항상 좋은 결과를 찾을 수 있음.

항상 cost function의 모양이 Convex function인지를 확인해야한다.