#605
summarized by : 山縣英介
A Semi-Supervised Assessor of Neural Architectures

どんな論文か?

NASにおける性能予測をアーキテクチャと実際の性能のデータで教師あり学習を行うのではなく,アーキテクチャのラベルが一部欠落したデータで半教師学習を行う手法を提案する論文.
placeholder

新規性

大量のラベルのないアーキテクチャを用意し,一部をターゲットのタスクで学習しラベルを取得.それらのデータからオートエンコーダを用いてアーキテクチャの特徴表現を学習.それを元にgraph convolution neural networkを用いてラベルのないアーキテクチャの性能を予測.

結果

Nas-Bench-101のラベルを減らして従来法と比較.KTauで評価した結果SOTA.Nas-Bench-101に含まれるの423kのラベルのうちランダムに抽出した1kのラベルで上位0.01%の性能.

その他(なぜ通ったか?等)

アーキテクチャの設計を人の手から解放するNASの実用性は高いが,教師ありに必要なデータの収集のコストは大きい.その点提案手法は格段に小さいコストで性能の予測を可能にしている.