#718
summarized by : 古澤嘉久
There and Back Again: Revisiting Backpropagation Saliency Methods

どんな論文か?

出力に寄与した入力箇所をハイライトする手法として,Grad-CAMやSaliency Mapなどの勾配を用いた可視化があるが,これらを統合的に定式化したフレームワークを提案.加えて提案手法であるNormGradは,畳み込み層の寄与を適切に集計するための手法であり,Grad-CAMのように単一の層の出力だけで可視化を行うのではなく,複数の層の組み合わせ方法を複数提案.

新規性

(1)ヒートマップを作成する手順を"Extract", "Aggregate"にわけ,複数の手法を統一するフレームワークの提案.(2)複数層の重み付け和によってヒートマップを表現する方法の検討.(3)Grad-CAMが最終層のみでの可視化しかうまく働かない原因についての考察.(4) 出力クラスに対する感度を高めるヒートマップを作成するために,ヘッセ行列を用いたMeta-Saliencyを提案.

結果

Pointing Gameによってヒートマップを評価し,それ以外にもClass Sensitivityを測るために,最大予測クラスと最小予測クラスのヒートマップを相関係数で比較.提案手法であるNormGradは他の手法と比べると,高解像度でClass Sensitivityな可視化が可能.またMeta-Saliencyによって既存の可視化手法のClass Sensitivityをも上昇させた.

その他(なぜ通ったか?等)