#262
summarized by : Haruhi Shida
Cross-Domain Ensemble Distillation for Domain Generalization

どんな論文か?

ドメイン汎化の十分条件であるフラットミニマムへの収束を促しながらドメイン不変な特徴を学習するクロスドメインアンサンブル蒸留法(XDEDと名付けた),シンプルかつ効果的な手法を提案.本手法は,領域横断的な画像分類,データ横断的な人物再認識,データ横断的な意味分割の公開ベンチマークにおいて汎化能力を大幅に向上させる.
placeholder

新規性

実世界では訓練とテストデータの分布が独立かつ同一である,という仮説が成り立たないことが多くドメインシフト問題が発生する.そこでドメイン汎化する手法が検討されているが,ドメイン汎化の文脈におけるフラットミニマムの利点はまだ活発に研究されていない. 本研究ではドメイン汎化のためにフラットミニマムへの収束を促しつつドメイン不変な特徴を学習する手法を検討,シンプルかつ効果的な手法であるXDEDを提案する.

結果

DomainBed, cross-dataset person re-ID , cross-dataset semantic segmentation実験において自明ではない改善を示し様々なドメイン汎化シナリオにおける我々の手法の有効性を検証している。さらに提案手法で学習したモデルは,敵対的な攻撃や未知の画像破損に対する頑健性の達成にも役立つことを示した.

その他(なぜ通ったか?等)

画像はDomainBedにおけるドメイン汎化精度