#209
summarized by : Ryo Nakamura
Self-Filtering: A Noise-Aware Sample Selection for Label Noise with Confidence Penalization

どんな論文か?

Label Noise(LN)の学習では,揺らぎの事象(現時点で正しく分類されたサンプルが、次の学習ステップで誤って分類される現象)が観測される. この論文では,この揺らぎの現象に着目しLNをフィルタリングする新しいサンプル選択戦略Self-Filtering (SFT)を提案. さらに,SFTの選択バイアスを減らすための正則化項の設計や従来法FixMatchと組み合わせでモデル性能の向上を達成.
placeholder

新規性

1.ラベルノイズ学習におけるサンプル選択を再考し,過去の予測値の揺らぎを利用してクリーンなサンプルを選択する新しい戦略を提案. 2.正則化項を設計し,ネットワークの自信のある出力にペナルティを与えることで,サンプル選択の偏りを忠実に緩和することが可能.

結果

新しい学習フレームワークである自己フィルタリング(SFT)を構築し,様々なノイズタイプを持つ3つのベンチマークにおいて新しい最先端を達成する. 提案手法を従来の学習フレームワークに適用したところ,大幅な性能向上を達成し,ラベルノイズ学習における汎用性の高さを実証している.

その他(なぜ通ったか?等)

ラベルノイズ学習における揺らぎの現象を定義づけ,その現象を利用したSelf-Filteringが良好な結果を示すだけでなく,正則化項の追加や従来法FixMatchとの組合せで,ロバストな学習を実現したため.