- …
#3 #emnlp2019
summarized by : m3yrin
概要
Machine Reading Comprehension(MRC)モデルの算術的な理由づけ(Numerical reasoning)の能力が性能のボトルネックになっていることを指摘し、MRCモデルに算術的な能力を強化するための新たなモジュールを提案している。十分な文章理解と算術能力が必要となる質問データセットDROPについて評価し、スコアが改善することを確認している。
新規性
DROPデータセットのために提案された他のMRCモデルと同様に、Encoderモジュールで入力文章の埋め込み表現を取得し、後段のサブモジュールで回答の型(Span, Count, 算術演算など)を仮定した出力を得る構造をしているが、提案モデルNumNetでは中間に有向グラフを使ったReasoning Moduleを追加する。
Reasoning Moduleでは入力文章内の数値の埋め込みをノードとして用い、ノード間の大小関係を基にしたエッジとMessage Propagationを用いて、文章内に現れる数値の関係についての情報を得ようとしている。
結果
DROPデータセットを用いてモデルの評価を行い、Reasoning Moduleの追加によってスコアが改善することを確認している。
- …