#41
summarized by : 飯田啄巳
Combating Noisy Labels by Agreement: A Joint Training Method with Co-Regularization

どんな論文か?

2つのネットワークの多様性をCo-Regularization付きの結合損失で制限することで、ラベルノイズのあるデータに対してもロバストに学習できるJoCoR (Joint Training with Co-Regularization)を提案。
placeholder

新規性

従来のピアネットワークを使ったラベルノイズにロバストな学習よりも、結合損失を利用することで、互いのネットワークが類似していく(より同じタスクを解いていく)ようになる。結合損失の小さなサンプルを選択してパラメータ更新を行うが、その結合損失にCo-Regularizationを利用することで、より信頼できる(汎化性の高いデータ)を選択できるようになる。

結果

ラベルノイズが20, 50, 80%のMNIST, CIFAR10, CIFAR100のtest accuracyでSOTA。 Clothing1M(もともとラベルノイズあり)のテスト精度でbest test accuracy 70.30%でSOTA。

その他(なぜ通ったか?等)