#312
summarized by : Ryo Nakamura
Unsupervised Selective Labeling for More Effective Semi-Supervised Learning

どんな論文か?

SSLがラベル付きデータから残りのラベル無しデータへラベルを伝播させることに加え,ラベルを付けるべき正しいデータを選択することに焦点てた選択的ラベリング手法を提案.アルゴリズムは図を参照を推奨.
placeholder

新規性

・提案法の違いがSSLに与える影響を系統的に分析.これまで無視されてきた低ラベル設定下でのSSLにおける提案法の影響を系統的に解析を行った. ・特徴量の最適化を行わずにあるいは最適化と共repre-sentativenessとdiversityを捉える2つの教師無し選択ラベリング法を提案した. ・様々なSSL手法と比較しSSLやAL/SSALのサンプリングよりも高いサンプル効率を実現.

結果

・提案法はラベル付きデータが与えられた場合,SSL手法を最新の能動学習よりも一貫して改善しラベル効率で8〜25倍向上. 具体的には,CIFAR-10 (ImageNet-1K) において0.08% (0.2%) のラベル付きデータでFixMatchの精度を10% (14%) 向上させ,特に低いアノテーション予算でどのデータをラベル付けするかの選択にかかる小さな計算が大きな利益をもたらすことを実証

その他(なぜ通ったか?等)

Active Learning(AL)/ Self supervised AL(SSAL)の低レベル設定下でのサンプル効率の悪さやLow shotの性能が悪い面などを解決するために提案され,その結果はスタンダードを置き換えるほどよかったため.