summarized by : m3yrin
NumNet: Machine Reading Comprehension with Numerical Reasoning

概要

Machine Reading Comprehension(MRC)モデルの算術的な理由づけ(Numerical reasoning)の能力が性能のボトルネックになっていることを指摘し、MRCモデルに算術的な能力を強化するための新たなモジュールを提案している。十分な文章理解と算術能力が必要となる質問データセットDROPについて評価し、スコアが改善することを確認している。
placeholder

新規性

DROPデータセットのために提案された他のMRCモデルと同様に、Encoderモジュールで入力文章の埋め込み表現を取得し、後段のサブモジュールで回答の型(Span, Count, 算術演算など)を仮定した出力を得る構造をしているが、提案モデルNumNetでは中間に有向グラフを使ったReasoning Moduleを追加する。 Reasoning Moduleでは入力文章内の数値の埋め込みをノードとして用い、ノード間の大小関係を基にしたエッジとMessage Propagationを用いて、文章内に現れる数値の関係についての情報を得ようとしている。

結果

DROPデータセットを用いてモデルの評価を行い、Reasoning Moduleの追加によってスコアが改善することを確認している。