#564
summarized by : 岡本大和
A Programmatic and Semantic Approach to Explaining and Debugging Neural Network Based Object Detectors

どんな論文か?

Neural Networkで構築したDetectionモデルを「Debug」する手法を提案。{雨、夕方、後方アングル}といった具合に条件指定すると、条件にあった画像を生成して、Detectionモデルを評価する。これにより、失敗しやすい条件やパターンを自動抽出する。
placeholder

新規性

Neural Networkを「Debug」するという発想に新規性がある。Adversarial Sampleも近い発想なのかもしれないが、本研究ではデータレベルで苦手なサンプルを見つけるのではなく、メタなシナリオで苦手パターンを抽出するという点が新しい。

結果

例えば、車同士が近い距離にあると認識失敗しやすいといった傾向を自動抽出することに成功した。自動抽出した苦手パターンの場合は、通常時よりも誤検出率が50%以上増加した。

その他(なぜ通ったか?等)

ドメインバイアスによる予期せぬミスは(特に自動運転領域では)致命的な問題になるため、事前に検証できるという点で実用性が高い研究と言える。発想も新鮮な上に、直感的に納得感のある実験結果(例:車両が重なる誤検出しやすくなるなど)も得られている。