- …
- …
#376
summarized by : Yoitsu Takahashi
どんな論文か？
DNNの解釈可能性をあるプロトタイプ部から知識蒸留によって他のプロトタイプ部に転移させる手法。
生徒のプロトタイプを教師モデルに似せる"Global Explanation"ロスと生徒の局所表現を教師モデルに似せる"Patch-Prototype Correspondence"ロスの2つのロスを導入。
さらに解釈可能性転移の尺度として、生徒-教師モデル間の近似度を評価する3つの指標も提案した。
新規性
モデルの再利用や蒸留の際に、あるモデルから別のモデルへの解釈可能性の転移に注目している点。
結果
解釈性の転移指標としてAAP(平均有効パッチ数), AJS(平均ジャカール類似度),PMS(プロトタイプ合致スコア)を提案している。
これら3指標と分類性能について教師モデルのプロトタイプ手法からそのバックボーンを浅くした生徒モデルと本手法により知識蒸留した生徒モデルを比較を複数ケースで評価した結果、提案手法のほうが分類性能と解釈性の転移によりよい性能を示した。
その他（なぜ通ったか？等）
- …
- …