Bayes' theorem - studioimp/Bayesian-Deep-Learning GitHub Wiki

Prior(사전확률), Likelihood(가능도, 우도), Posterior(사후확률) 을 이해하기 위해서는 Bayes' theorem(베이즈 정리)와 Bayesian inference(베이즈 추론)를 이해하여야 한다.

• Bayes' theorem(베이즈 정리)는 두 확률 변수의 사전 확률과 사후 확률 사이의 관계를 나타내는 정리이다.

• 베이즈 정리를 이용하여 Prior(사전확률)로부터 Posterior(사후확률)을 구할 수 있음.

• 확률공간 에서 가 측정 가능한 집합이라고 하고, 이라고 하면, 베이즈 정리에 따라 다음이 성립한다.
  
  

---

• 는 의 Prior(사전 확률, 아직 사건 에 관한 어떠한 정보도 알지 못하는 것을 의미).

• 는 의 값이 주어진 경우에 대한 의 Posterior(사후 확률).

• 는 가 주어졌을 때 의 조건부 확률.

• 는 가 주어졌을 때 의 Likelihood(가능도, 우도).

• 는 의 사전 확률이며, 정규화 상수의 역할을 함. 를 이용하여 계산.

• 위에서 는 불확실성을 계산해야 하는 대상이며, 는 관측하여 값을 알아낼 수 있는 대상으로 생각한다면,

• 의 확률은 가 관측된 후 에서 로 변화하며, 베이즈 정리는 이 때의 변화를 계산하는 방법을 제공한다.

---

• 추론 대상의 사전 확률과 추가적인 정보를 통해 해당 대상의 사후 확률을 추론하는 방법.
• 베이즈 확률론을 기반으로, 추론하는 대상을 확률변수로 보아 그 변수의 확률분포를 추정하는 방법.

• 데이터 y, 파라미터 인 경우 Prior, Likelihood, Posterior, Evidence