#506
summarized by : Higaki Yoshinari
Optical Flow in Dense Foggy Scenes Using Semi-Supervised Learning

どんな論文か?

optical flow推定は霧のシーンでは輝度・勾配不変性が崩れ、精度が低下する。また、実写画像では、同一シーンの霧有無の画像の取得は困難であり、一方で合成画像のみの学習では過適合を引き起こす。本手法は、ドメイン変換を用いて実写のGTなしでの学習を行い、これらの課題を解決する。
placeholder

新規性

まず霧の付与の有無の合成画像ペアを用意し、教師あり学習を実行。その後、異なるシーンの霧有無の実画像ペアを用意し、教師なし学習を実行。これを交互に繰り返す。また、霧を除去する・付与する・optical flowを推定するという3つの機能を1つのアーキテクチャに統合し、霧有無の2種類の画像からoptical flowを推定しconsistencyを評価する。cycleGANの思想の独自の応用といえる。

結果

SOTAのPWCNetとFlowNet2を、独自の霧合成画像で再学習し定量的に比較。 KITTIデータセットの画像に霧を付与した独自のvKITTIを用い、SOTAのPWCNetをEPEにおいて0.07ポイント超える。また、実写画像の比較において、FlowNet2を0.40ポイント超える。

その他(なぜ通ったか?等)

実写でoptical flowの教師データを構成することが困難である普遍的な課題に対し、霧という悪条件をさらに追加した上で同時に解決するアプローチを提案した点が、評価のポイントと考えられる。