Архитектурой выступил Fasttext для получения векторного представления слов, за ним идет LSTM и на вершине линейные слои с дропаутом и релу между ними.
- Слово в нижнем регистре;
- Слово начинается с заглавной, все остальные в нижнем регистре;
- Слово в верхнем регистре;
- Последний класс для паддинга.