#432
summarized by : Tomoya Nitta
HINT: Hierarchical Neuron Concept Explainer

どんな論文か?

画像認識におけるニューラルネットワークの各ニューロンがどのような働きをしているかの説明のための手法としてHINTを提案した。提案手法では認識する画像のクラスの上位の概念(犬→哺乳類など)を中間層で学習させ、人間の階層的な認知とニューラルネットワークを対応させるように学習することでニューロンの説明を行った。
placeholder

新規性

ニューラルネットワークの階層構造を人間の知識の階層構造と対応させて学習するように新しい学習方法の提案をした。

結果

saliency mapによるlocalizationタスクの弱教師あり学習において既存手法よりも優れた結果となった。またニューロンの反応を見た際に人間にとって関連がなさそうな複数の概念に寄与するマルモーダルなニューロンがあり、ラベル付けされていない一般的な特徴量を捉えていることがわかった。

その他(なぜ通ったか?等)

実験ではInception-v3、VGG、ResNetなどシンプルなモデルを用いてるが、最近の複雑なモデルではどのようになるかが気になる。