- …
- …
#926
summarized by : 日坂 幸次
どんな論文か？
ニューラルアーキテクチャ探索(NAS)は、ニューラルネットワーク設計の発展を飛躍的に加速させた。
従来のほとんどのNAS手法における探索空間設計を再検討すると、ブロック数やブロック幅は手動で設定されていることがわかります。
本論文では、ブロック数とブロック幅を探索するために、密に接続された探索空間（DenseNAS）を設計することを提案する。
新規性
この探索空間は、我々が設計したルーティングブロックの上に構築されたデンススーパーネットワークとして表現される。
スーパーネットワークでは、ルーティングブロックが密に接続されており、それらの間の最適な経路を探索し、最終的なアーキテクチャを導出する。
さらに、探索中のモデルコストを近似するための連鎖コスト推定アルゴリズムを提案する。
結果
MobileNetV2ベースで、DenseNASはImageNet上で75.3%のトップ1精度を達成し、TITAN-XP 1台でわずか361MBのFLOPと17.9msのレイテンシを達成しました。
DenseNASは、ResNet-18、-34、-50-BのImageNet分類精度を、それぞれ200M、600M、680M FLOPsで1.5%、0.5%、0.3%向上させています。
その他（なぜ通ったか？等）
関連コードはhttps://github.com/JaminFong/DenseNAS。
- …
- …