DeepLearning_Lec03 - 8BitsCoding/RobotMentor GitHub Wiki

• 참고사이트

---

Hypothesis는 H(x)와 같이 주어지고

cost(W, b) 함수도 위와 같이 주어지며 우리는 cost를 최소화 하려한다.

---

좀 더 문제를 간단히 해보자.

bias(b) 텀을 없애고 cost함수를 도출하면 위와 같다

---

위 식을 바탕으로 cost를 최소화 해보자

W에 따른 cost값의 그래프를 그려보자

목표는 cost가 최소가 되는 값을 찾는 것이다.

여기에 많이 사용되는 알고리듬이 Gradient descent algorithm

Gradient(경사) descent(내려가는) 알고리즘 = 경사를 따라 내려가는 알고리즘

---

어떻게 계산하나?

미분을 수월하게 하기 위해서 1/2를 하고 미분을 수행

Gradient descent algorithm을 위와 같이 정의 할 수 있다.

---

Convex function

최 저점이 오직 하나인 함수 -> Gradient descent algorithm에서 항상 좋은 결과를 찾을 수 있음.

항상 cost function의 모양이 Convex function인지를 확인해야한다.