#239
summarized by : neka-nat
Adversarial Defense Through Network Profiling Based Path Extraction

どんな論文か?

Adversarial exampleにおいて、DNNモデルの中間出力を分析することで敵対的な画像を検出する手法の提案。具体的には、画像ごとのネットワーク内の経路をクラスレベルで集約し、それを通じて、敵対的画像が通常の画像とは異なる経路を活性化することを利用する。
placeholder

新規性

CDRP(criticaldata routing path)などの従来研究においては単一の画像が敵対画像かどうかを抽出するのに再学習が必要であり時間がかかるということと、抽出された経路の表現が高次元であったが、本手法では実際のネットワーク内のデータのフローを直接抽出できるようになった。

結果

本手法による防御方法は、いくつかの主流な敵対的画像を高精度かつ広範囲にカバーしている。また敵対的防御以外に、DNNの動作メカニズムを理解するためにも有効な手段となっており、DNNのトポロジが効果的な経路の密度と類似性にどのように影響するかの結果についても示すことができた。

その他(なぜ通ったか?等)