#719
summarized by : Takahiro Itazuri
Efficient Decision-Based Black-Box Adversarial Attacks on Face Recognition

どんな論文か?

顔認識を行うCNNに対して、モデルのパラメータや勾配情報を用いずに、CNNが誤認識するような微小なノイズを生成する攻撃 (block-box attack) を、進化的アルゴリズムを用いて行った論文である。
placeholder

新規性

進化的アルゴリズムを用いて、探索方向の局所的な幾何情報をモデル化することで、探索空間の次元を減らすことができる。既存の手法より非常に効率的に攻撃することが可能になった。

結果

より少ないクエリの数でより微小なノイズのadversarial examplesの生成に成功しており、またTencent AI Open Platformのface verification APIに対して攻撃を成功させている。

その他(なぜ通ったか?等)

black-box attackの手法の中でもより少ないクエリで攻撃が可能な点と、現実にデプロイされているアプリケーションに対する攻撃に成功している点から注目度が高く、セキュリティ意識を高めるためには重要な論文と考えられる。