#47
summarized by : Hirokatsu Kataoka
Are Labels Necessary for Neural Architecture Search?

どんな論文か?

教師あり学習/自己教師あり学習によるアーキテクチャ探索(Neural Archtecture Search)の比較および検討を行なった論文。
placeholder

新規性

NASの文脈において人間による教師は自己教師に置き換えることが可能かもしれない、ということを明らかにした。NASにおいて、ImageNetの教師あり学習と自己教師学習は類似の精度まで到達し、さらには探索されたネットワーク構造が類似する場面もあることを実証。

結果

結果として、次のようなことが明らかになった。(i)ラベルの有無で探索したアーキテクチャのランキングに高い相関があった(ii)教師と自己教師により探索したモデルは類似する場合もある(iii)教師と自己教師でほぼ同等、自己教師は一部精度の面で教師あり学習を超える。

その他(なぜ通ったか?等)

計算量は膨大になるが、包括的な調査を行い知見を見いだすことがあればTop-tierレベルであっても採択される可能性がある論文の出し方である。