ml Naive Bayes - ghdrako/doc_snipets GitHub Wiki

Bayes

Analiza danych to w przewazajacej mierze stawianie hipotez i ich weryfikacja. W ten sposób nasze pierwotne przekonania zostana potwierdzone lub nie. Weryfikacja postawionych hipotez wymaga od nas danych które zazwyczja jsa niekompletne. Dzieki wnioskowaniu bayesowskiemu mozemy na biezaco weryfikować nasze hipotezy wraz z otrymywaniem kolejnych danych.

Nasze pierwotne załozenia to zalozenia a priori (bez zapoznania sie z faktami), czyli wnioskowanie o skutkach na podstaiew przyczyn. Przeciwieństwem wnioskowania a priori jest wnioskowanie a posteriori (oparte na faktach) czyli określanie przyczyn na podstawie skutków które zobaczylismy.

Twierdzenie Bayesa łaczy ze soba prawdopodobiuenstwoa posteriori z prawdopodobienstwem a priori. Twierdzeni to pozwala nam na okreslenie prawdopodobienstwa pewnych pryczyn, gdy znamy skutki (prawdopodobienstwo skutków).

Zgodnie z twierdzeniem Bayesa wiemy ze prawdopodobienstwo pewnej hipotezy pod warunkiem zaobserwowania pewnych dowodów P(H|E) mozna obliczyc, znajac prawdopodobienstwo wystapienia pewnych dowodów dla przyjetych wczesniej hipotez P(E|H) i proawdopodobienstwo wystapienia dowodu P(E) i hipotezy P(H).

Twierdzenie Bayesa jest podstawa naiwnego klasyfikatora bayesowskiego (ang. Naive Bayes classifier) który jest jednym z najpowszechniejszych algorytmów klasyfikacji. Przymiotnik "naiwny" wskazuje na założenie niezależności cech(danych wejsciowych modelu).

W przykadku filtru antyspamowego zakładamy ze słowa wystepujace w wiadomości sa od siebie niezależne, choć w rzeczywistości zależnosci takie moga wystepic.