#543
summarized by : 鈴木共生
Simulated Adversarial Testing of Face Recognition Models

どんな論文か?

学習済み顔認証モデルにおいて,認証が失敗する敵対的サンプルをシミュレーターで生成する論文.先行研究の敵対サンプル生成は説明性がなく離散的なものであるという問題があった.提案法ではこの問題を解決した.
placeholder

新規性

提案法の構造は画像のとおり.正面顔とパラメータで生成された顔を顔認証モデルに入力する.この時,ロスが大きくなるパラメータを記録することで,敵対サンプルを生成可能になる.また,パラメータ間の隣接グラフを作成することで,何°以上の顔向き変更で認証が失敗するかなど,説明性のある敵対サンプル集合の生成も可能にした.

結果

CASIA WebFaceで学習したモデル(LFWにおいて正解率99.1%)を使用.提案法で顔向きなどを変更した敵対サンプルを生成してテストした.この時,正答率が36%に下がることから,提案法が評価データにないパターンを生成可能であることを示した.

その他(なぜ通ったか?等)

特定の評価データで精度が良いモデルでも,実世界のパターンを網羅できていない場合が想定される.提案法では,評価データにない説明性のあるパターンを生成可能であり,モデルの頑強性の調査や対策に役立てられるため.