- …
- …
#719
summarized by : Takahiro Itazuri
どんな論文か?
顔認識を行うCNNに対して、モデルのパラメータや勾配情報を用いずに、CNNが誤認識するような微小なノイズを生成する攻撃 (block-box attack) を、進化的アルゴリズムを用いて行った論文である。
新規性
進化的アルゴリズムを用いて、探索方向の局所的な幾何情報をモデル化することで、探索空間の次元を減らすことができる。既存の手法より非常に効率的に攻撃することが可能になった。
結果
より少ないクエリの数でより微小なノイズのadversarial examplesの生成に成功しており、またTencent AI Open Platformのface verification APIに対して攻撃を成功させている。
その他(なぜ通ったか?等)
black-box attackの手法の中でもより少ないクエリで攻撃が可能な点と、現実にデプロイされているアプリケーションに対する攻撃に成功している点から注目度が高く、セキュリティ意識を高めるためには重要な論文と考えられる。
- …
- …