#226
summarized by : Shinnosuke Matsufusa
OccamNets: Mitigating Dataset Bias by Favoring Simpler Hypotheses

どんな論文か?

ニューラルネットワークの学習はデータセットのバイアスや疑似相関に脆弱である。この問題に対し、ネットワークアーキテクチャを変更し、ネットワークをバイアスや疑似相関に対して堅牢にする、「誘導バイアス」を課すようにした。 具体的には、CNNの各ブロックに出口モジュールを付け足す。この出口モジュールでは、各ブロックで出力された特徴マップを入力とし、早期終了の判断やできる限り少ない画像範囲から出力を行う。
placeholder

新規性

ニューラルネットワークのバイアスや疑似相関問題について、ネットワークアーキテクチャによる解決を試みたこと

結果

バイアスのあるデータセットにおいて、ベースラインであるResNet構造より大幅に認識精度を向上している。既存のデバイアス手法と組み合わせることで、相乗効果も見られた。

その他(なぜ通ったか?等)

幅広いアーキテクチャのニューラルネットにも、提案されている出口モジュールの考え方は適用でき、現実の幅広い問題に適用されそうだから。