予測精度だけでなく、モバイル端末での推論遅延も考慮し、微分可能なNAS（DNAS）を使ってアーキテクチャを探索する手法の提案。1レイヤーに複数種類のブロック構造が全て並列に接続されているSuper Netを作り、各レイヤーの出力は全ての構造の重み付き和とする。Gumbelソフトマックスを使うことでどのブロックを選ぶことが性能向上につながるかを勾配で予測。また、レイテンシを考慮したロス関数を持つ。