- …
- …
#718
summarized by : 古澤嘉久
どんな論文か？
出力に寄与した入力箇所をハイライトする手法として，Grad-CAMやSaliency Mapなどの勾配を用いた可視化があるが，これらを統合的に定式化したフレームワークを提案．加えて提案手法であるNormGradは，畳み込み層の寄与を適切に集計するための手法であり，Grad-CAMのように単一の層の出力だけで可視化を行うのではなく，複数の層の組み合わせ方法を複数提案．
新規性
(1)ヒートマップを作成する手順を"Extract", "Aggregate"にわけ，複数の手法を統一するフレームワークの提案．(2)複数層の重み付け和によってヒートマップを表現する方法の検討．(3)Grad-CAMが最終層のみでの可視化しかうまく働かない原因についての考察．(4) 出力クラスに対する感度を高めるヒートマップを作成するために，ヘッセ行列を用いたMeta-Saliencyを提案．
結果
Pointing Gameによってヒートマップを評価し，それ以外にもClass Sensitivityを測るために，最大予測クラスと最小予測クラスのヒートマップを相関係数で比較．提案手法であるNormGradは他の手法と比べると，高解像度でClass Sensitivityな可視化が可能．またMeta-Saliencyによって既存の可視化手法のClass Sensitivityをも上昇させた．
その他（なぜ通ったか？等）
- …
- …