#305
summarized by : Tasuku KINJO
A Peek Into the Reasoning of Neural Networks: Interpreting With Structural Visual Concepts

どんな論文か?

訓練された分類モデルの推論過程を模倣し視覚的要素visual conceptとそのグラフ構造とで解釈するフレームワークVRXを提案
placeholder

新規性

top-down gradient attentionを用いて背景を除くように視覚的要素visual conceptを抽出し、それらをグラフ推論ネットワークを用いて互いの構造関係を学習することで意思決定プロセスを模倣するVRXを提案している

結果

VRXは模倣元のモデルの背後にある推論過程を十分に再現していることを実験的に明らかにしている。再現が行えていることで、元のモデルの推論プロセスを人間が直感的に理解できる説明性を提供する可能性を示している

その他(なぜ通ったか?等)