#53
summarized by : kodai nakashima
Do Better ImageNet Models Transfer Better?
Simon Kornblith, Jonathon Shlens, Quoc V. Le

どんな論文か？

モダンなCVの研究では，ImageNetで良い性能を示すモデルは他のビジョンタスクにおいても良い性能を示すと仮定している．しかし，この仮定は実際に確かめられたわけでない．この研究では，16個のネットワークを12個のデータセットを用いて比較した．その結果，ImageNetでの性能と転移後の性能には強い相関があることがわかった．
placeholder

新規性

1. 良いImageNetのネットワークは，転移学習後の分類タスクでも良いことがわかった． 2. ImageNetでの性能を向上させる正規化は転移学習の性能に悪い影響を与えることがわかった． 3. ネットワーク構造が優れていれば，ランダムな初期値からでも良い性能が得られる．つまり，ImageNetの学習済みの重みから転移学習することは，そんなに重要ではないことがわかった．

結果

16個のモダンなネットワーク（ILSVRC 2012でのtop-1 accuracyが71.6% ~ 80.8%) と12この画像分類データセット (Cifar10やPASCAL VOC 2007) などを用いて，fine-tuningやランダムな初期化からの学習を行い性能をまとめた．その結果，新規性で書いたようなことがわかった．

その他（なぜ通ったか？等）

    このページで利用されている画像は論文から引用しています．