- …
- …
#103
summarized by : 飯田啄巳
どんな論文か?
Adversarial Attackのための代替モデルを実際のデータなしで作成する手法(DaST)を提案。代替モデルの学習には、特殊なGANから生成された合成データと攻撃対象のモデルから取得したラベルを使用する。GANは図にあるように、複数に分岐しており、それぞれが一つのクラス生成に対応する。これにより生成されるデータをコントロールする。
新規性
ブラックボックス攻撃する際に用意する代替モデルを、全くデータが手元になくてもで作成できる点。
結果
ローカルにある事前学習済みモデルとオンラインの学習システム(Azure)に対して攻撃が有効であることを確認。特に、DaSTはオンラインシステムに対しては、検証ステージでクエリが必要無い(代替モデルの学習には必要)。
その他(なぜ通ったか?等)
データを全く必要とせず代替モデルを作成できるので、ブラックボックス攻撃の障壁を一つ壊したと言える。
- …
- …