- …
- …
#65
summarized by : Shunsuke Yoshizawa
どんな論文か？
self-supervised learningにおいて、ラベルの生成の際に教師モデルから誤ったラベルが生成されてしまうと、生徒モデルはその誤ったラベルが正しいものと考えて学習してしまうため、誤りを修正することができないという課題がある。著者らはこの課題をLazy mimickingと定義している。
新規性
Lazy mimckingを抑制するために、labeledデータセットSを用いて学習を行った後に、(1)unlabeledデータをR1とR2に2分割し、一方のデータを用いてfinetunedを行い、もう一方のラベルをアップデートし、(2)finetunedの結果を破棄するという手法を提案した。
結果
いずれのデータセットにおいてもself-supervisedと比較して本論文で提案した手法は良好な結果が得られていた。医療用の画像データセット(NIH・MSD)においては既存の手法よりも良好な結果が得られたが、cityscapeデータセットにおいても既存手法を上回ることはできなかった。
その他（なぜ通ったか？等）
self-supervisedが特に重要である医療用画像データセットにおいて効果が出ていることと、lazy mimickingという概念の定義と存在の証明ができたことが評価されたのだろう。
- …
- …