#55
summarized by : Tomoki Tanimura
Benchmarking Adversarial Robustness on Image Classification

どんな論文か?

画像分類のAdversarial Attackに対する頑健性を評価するための新しいベンチマークを提案.perturbationの大きさを横軸にaccuracyを縦軸にとったグラフを用いて,頑健性を評価する.このグラフによって,モデル間の相対的な頑健性を理解可能.多様な攻撃手法に対する多様な防御手法の性能を実験的に評価し,そこから得られる知見をまとめた.
placeholder

新規性

多様な攻撃,防御の手法をまとめ,複数の攻撃に対して防御性能が高い手法が何かを実験的に明らかにした.

結果

最も効果的であると知られているAdversarial Trainingは,様々な攻撃手法に対する汎化性能も高い.ランダムベースの防御手法は,クエリベースのブラックボックス攻撃に対して,より頑健である.また,RealSafe (https://github.com/thu-ml/realsafe) と呼ばれる頑健性評価実験のためのレポジトリを公開.

その他(なぜ通ったか?等)

今までここまで大規模に攻撃・防御に対する実験を行い,頑健性に対してまとめた論文がなかった,という点でコミュニティに対する貢献度が高い.