うち半分にジョークを含む3万のロシア語の短文からなるデータセットを作成した。3種のデータセットから人手ラベリングにより2000程度の信頼性の高いデータを作成。これでULMFiTをファインチューニングしたULMFunでラベルを3万まで増やした。

ジョークのデータセットとしてはすべての言語において最大規模のデータセット。