- …
- …
#49 #emnlp2019
summarized by : Katsuya Shimabukuro
概要
ソーステキストやデータを元にヘッドラインなどの要約したテキストを生成するタスクにおいて、Content SelectorとGeneratorという2つのモジュールを持つ手法を変分推論を用いて拡張する手法を提案。既存手法に比べて、高い生成精度、生成文の多様性を実現するだけでなく、学習時のハイパーパラメーターの値で、選択された情報を生成する文にどれだけ反映するかを調整できることを示した
新規性
ソーステキストを変換するエンコーダー、エンコーダーの出力からマスクとして利用する潜在変数の事前分布のパラメーターを推定するモジュール、潜在変数とソーステキストから出力を生成するデコーダーだけでなく、生成テキストも考慮して潜在変数の事後分布を計算するモジュールを変分推論により学習し、生成文をコントロールしやすくすることを試みた
結果
GigawordデータセットとWikiboデータセットを用いて、Content SelectorとGeneratorを持つベースライン手法と比較し、生成性能が上がること、文の多様性が増すこと、Content Selectorが選択した内容を元に文生成が行われること、その程度を調整できることを示した
- …
- …