Tänk dig att du har en klass $c$ (t.ex. ”positiv” eller ”negativ”) och ett ord $w$ (t.ex. ”bra” eller ”dålig”). En generativ modell för dessa två variabler definierar en sannolikhetsfördelning på formen $P(c, w)$. Vi skulle t.ex. kunna ha följande fördelning:

Om man har en generativ modell kan man alltid också få ut den betingade sannolikhetsfördelningen $P(c|w)$, som man behöver för att predicera klassen $c$ utifrån ordet $w$. För exemplet ovan, vad är $P(\text{positiv}|\text{bra})$? Ange ett procenttal avrundat till två decimaler.

I praktiska implementationer av Naive Bayes brukar man inte använda sannolikheter utan log-sannolikheter. Med detta menas att man skriver om varje sannolikhetsvärde $p$ till dess logaritm, $\log p$. Fördelen med detta är att man alltid får tal vars absolutvärde är relativt stort, vilket förhindrar underspill.

När man använder log-sannolikheter måste man i beslutsregeln för Naive Bayes ersätta multiplikation med …

Använd Maximum Likelihood Estimation-principen för att skatta ordsannolikheten $P(\text{Stockholm}|\text{Sverige})$ utifrån följande dokumentsamling. Svara med ett procenttal avrundat till två decimaler.