#526
summarized by : 福原吉博 (Yoshihiro Fukuhara)
Understanding Adversarial Examples From the Mutual Influence of Images and Perturbations

どんな論文か?

敵対的摂動と通常画像の関係を分析した論文。実験によって targeted Universarial Adversarial Perturbation (UAR) はNNが捉えているそのクラスの特徴量そのものであることを明らかにした。また、この性質を利用して代理データセットを用いた UAP の新しい生成手法を提案している。
placeholder

新規性

下記の実験内容とその解釈に特に新規性があると思われる。(a) 通常画像、(b) 敵対的摂動のみの画像、(a+b) 両方を加えた画像、をそれぞれNNに入力した際のロジットの相関を調査した。(b) に targeted Universarial Adversarial Perturbation (UAR)を使用した際は(b)と(a+b)に強い相関があるが、(a)と(a+b)にはほぼ相関がなかった。

結果

提案されている代理データセットを用いた UAP は、実際の訓練データを使用していないにも関わらず、既存手法と同等かそれよりも高い攻撃性能を示した。

その他(なぜ通ったか?等)

実験の結果得られた知見の新規性。