En $n$-gram-modell har lika många parametrar (i detta fall sannolikheter) som det finns möjliga $n$-gram som kan byggas med hjälp av orden i modellens vokabulär. Antag att vokabulären består av 100 000 unika ord. Hur många parametrar har då en $4$-gram-modell? Svara med ett konkret tal.

Datamängden WikiText är en samling bestående av 2 miljoner ord som extraherats från ”bra” och ”utmärkta” artiklar på Engelska Wikipedia. Vokabulären består av 33 000 unika ord. I denna datamängd förekommer bl.a. följande unigram och bigram:

Ange den MLE-skattade sannolikheten P(book|the), avrundad till tre decimaler.