#806
summarized by : 古澤嘉久
Black-Box Explanation of Object Detectors via Saliency Maps

どんな論文か?

物体検出モデルにおける一枚の画像に対するpost-hocな判断根拠の可視化手法の提案。Grad-CAMのようにクラス予測確率を用いるだけではなく、RISEベースの可視化手法を提案する。
placeholder

新規性

RISEのように予測確率を直接的に用いるのではなく、検証したいBBOXとの予測IOU、クラス分類の予測確率のcos類似度、objectnessを用いることで、よりマスクに対する総合的な重みづけを行う手法を提案した。

結果

pointing gameのような指標でより物体に寄り添った可視化を行うことを確認。さらにあえてバイアスを含んだデータを用いた学習を行い、それを可視化手法により判断根拠として確認できるかの定性的な分析を行い、データセットのバイアス検出にも用いることができることを確認した。

その他(なぜ通ったか?等)