#256
summarized by : Tomoki Tanimura
Adversarial Robustness: From Self-Supervised Pre-Training to Fine-Tuning
Tianlong Chen, Sijia Liu, Shiyu Chang, Yu Cheng, Lisa Amini, Zhangyang Wang

どんな論文か？

Self-supervised learningに，Adversarial Trainingを導入した場合の，頑健性向上について調査．Selfie, Jigsaw, Rotationに対して，敵対的にSelf-supservisedの学習を行い，ATでfine-tuningした．3つのself-supervised taskをensembleする手法についても調査した．
placeholder

新規性

頑健なモデルが学習可能と言われているSelf-Supervised Learningに，初めてATを導入し，頑健性向上を確認した

結果

Self-Supervised TaskのEnsembleなしでも，最高でrob: 3.83% acc: 1.3% ほどの改善が見られ，Ensembleすることで，さらにrob: 3.5%ほどの向上が見られた

その他（なぜ通ったか？等）

このページで利用されている画像は論文から引用しています．