#469
summarized by : Hirokatsu Kataoka
OBoW: Online Bag-of-Visual-Words Generation for Self-Supervised Learning

どんな論文か?

Bag-of-visual-words(BoW)表現を復元するようにCNNを学習することで自己教師学習を実施する。実際にはDistilaltionの枠組みで実装され、Teacher NetworkはオンラインでBoWを生成し、Student NetworkはBoWの再構成をしながら特徴表現を獲得する。
placeholder

新規性

(1)オンラインで完結するBoWベースの自己教師学習を提案することに成功、(2)BoWの再構成問題に再帰することができた、(3)画像特徴表現に関して、BoWにより強力なコンテキストを対応づけることに成功。

結果

ImageNet, Places205, VOC07にて検証を行なっている。特に、VOC07/Places205の識別においては教師あり学習よりも優れた精度を実現していることを明らかにした。

その他(なぜ通ったか?等)

コードがこちらで公開されている→ https://github.com/valeoai/obow