När man bygger ett system för sekvenstaggning med fönstermodellen måste man i förväg bestämma sig för hur stort fönstret ska vara. Ju större fönstret (kontexten) är, desto mer information har systemet att tillgå när det ska avgöra taggen för nästa ord. Alltför stora fönster kan dock också skapa problem. Vilket är huvudproblemet?