- …
- …
#44
summarized by : pshiko
どんな論文か？
semi-supervisedのタスクにおいて, supervised taskのlossとself-supervised taskのlossを加算する手法(S4L: Self-Supervised Semi-Supervised Learning)を提案.
従来semi-supervisedの文脈で提案されていた手法のみを用いる場合と比較し, 高い精度が出ることを確認.
新規性
- semi-supervised taskにself-supervisedの手法を組み合わせた点
- 非現実的なサイズのdataset を用いる semi-supervised の実験手法に代わり, 現実的な dataset を用いる評価を用いた点
- 小さい validation set を用いてmodel selectionを行っても選ばれるパラメータに影響がないことを明らかにした点
結果
ILSVRC-2012のtraining setのうち, 10%または1%のデータのみラベルを用いるタスクを実施.
S4Lが従来のSemi-Supervisedの手法より高い精度が出ることを確認した他, 従来手法と組み合わせた結果, 10%のラベルのみを用いるタスクにおいてSOTAを達成.
またPlaces205に対する転移学習の精度・収束速度が早いことから, 良い表現を学習できていることを確認
その他（なぜ通ったか？等）
従来のsemi-supevised のtaskの評価における課題(base line モデルの精度の妥当性, 非現実的なデータセットの大きさ, validation setの選択方法) について検証しながら実験を行っている.
- …
- …