#275
summarized by : 福原吉博 (Yoshihiro Fukuhara)
SuperMix: Supervising the Mixing Data Augmentation

どんな論文か?

Mixing augmentation を一般化し, 画像の salient な領域を考慮した mix を行うデータ拡張手法である SuperMix を提案. 画像分類と知識蒸留のタスクにおいて, 提案手法の優位性を確認. SuperMix を RandAugment と組み合わせて学習した ResNet50 は ImageNet において78.2% の top-1 accuracy を達成.
placeholder

新規性

画像の salient な領域を考慮したマスクを生成するための損失関数を提案(mix 画像と soft label の KL div. とマスクを疎にするための正則化項から構成される). また, Newton iterative algorithm を使用した SuperMix のマスクの計算手法を提案. SGD を使用した場合と比較して65倍高速.

結果

画像分類では CIFAR-100 や ImageNet において既存の SoTA 手法である AutoAugment や RandAugment とコンパラの性能. また, 知識蒸留の際に SuperMix で生成した画像を使用することで, studentの精度を大きく向上させることに成功.

その他(なぜ通ったか?等)