#319
summarized by : Akihiro FUJII
MaxUp: Lightweight Adversarial Training With Data Augmentation Improves Neural Network Training

どんな論文か?

通常はミニバッチの平均勾配を使って学習を行うが、ランダムな摂動を与えたミニバッチ中の最悪の損失をもつデータの勾配のみを用いて学習を行うMaxUPを提案。画像分類において、精度向上を確認した。
placeholder

新規性

ランダムな摂動を与えたミニバッチ中の最悪の損失をもつデータの勾配のみを用いて学習を行うMaxUPを提案。敵対的学習の1種とみなすことができ、ガウス型の敵対的サンプルに対する頑健性が向上する。

結果

CIFARやImageNetにおいて、精度の向上を確認した。

その他(なぜ通ったか?等)

精度向上もあまり大きくなく、画像分類における精度向上もMaxUP単体ではなくCutMixと組み合わせたものが多く単体でどこまで効果があるのかも不明。論文で主張している敵対的攻撃というのも、ただのノイズなので、敵対的攻撃とは言い難い。これでもCVPR通るのかという印象が少しある。