#406
summarized by : Yuta Nakamura
DiNTS: Differentiable Neural Network Topology Search for 3D Medical Image Segmentation

どんな論文か?

3D medical image segmentationに対するNeural Architecture Search(NAS)を微分可能な方式行うための新手法を提案.以下の先行研究の限界を克服した: ①各nodeの出力先を1つに制限しておりモデル構造が限られる,②探索中はNode間の連結の有無を確率的に扱うが選ぶモデルはdiscreteであり,そこで性能が落ちる,③大量のGPUメモリが必要.
placeholder

新規性

①Supernodeという概念を導入し,各edgeに0〜1の確率を割り振るのではなく,全edgeの状態の実現値1つ1つに確率を割り振ることで多様なモデルの探索を実現した.②topology lossを導入してモデルをdiscreteに固定した時の性能低下を抑制した.③GPUメモリ消費を反映したlossを組み込み,かつメモリ消費量の制限の強さをパラメタによって調節可能にした.

結果

Medical Segmentation Decathlon (MSD) datasetにて検証し,一部の臓器で既存手法の性能を上回った.また,探索されたモデルの性能はモデル探索中のGPUメモリ消費量の制約に対して頑健であり,約1/3までメモリ消費量を落としても性能は概ね保たれていた.さらにC2FNASなどの既存手法よりも大幅にモデル探索時間が短縮された.

その他(なぜ通ったか?等)