#346
summarized by : Hirokatsu Kataoka
ClusterFit: Improving Generalization of Visual Representations
Xueting Yan, Ishan Misra, Abhinav Gupta, Deepti Ghadiyaram, Dhruv Mahajan

どんな論文か？

自己教師学習をネットワーク重みの微調整に使用する論文。具体的には図中上に示すように、教師ありデータセットでの事前学習後に自己教師学習を実行し、その上で追加学習を実行。
placeholder

新規性

教師あり学習->"自己教師学習"->追加学習と、途中に自己教師学習を挿入することにより、ネットワークをさらに調整し、追加学習の精度が大幅に向上することを発見した。

結果

Jigsaw Puzzle (Jigsaw) / Rotation (RotNet)による自己教師を用いて実験した。それぞれの精度向上は図中下に示す通りであるが、Jigsaw +9.2@ImageNet-1k, RotNet +7.0@VOC07など顕著な性能改善が見られた。

その他（なぜ通ったか？等）

このページで利用されている画像は論文から引用しています．