#492
summarized by : 古川 遼
Flow Contrastive Estimation of Energy-Based Models

どんな論文か?

Energy-based model (EBM) と flow-based model との敵対的な目的関数を用いた joint training を提案した. EBM の推定は, flow-based model を用いた noise contrastive estimation (NCE) の変種である. 提案手法を flow contrastive estimation (FCE) と呼ぶ.
placeholder

新規性

EBM と flow-based model との敵対的な目的関数を用いた joint training を提案した点. 画像データにおいて, flow-based model は単独で訓練するよりの精度が向上し, EBM はクラス分類タスクに有効な表現を学習ができることを示した. 半教師あり学習への拡張も可能である.

結果

SVHN, CIFAR-10, CelebA において, FCE で訓練された flow-based model (Glow) の合成画像は, 従来の最尤推定で訓練された Glow の生成画像よりも FID が低くなった. SVHN データセットのクラス分類において, FCE で訓練された EBM の特徴を用いてファインチューニングしたモデルは, 教師ありの分類モデルに匹敵する精度となった.

その他(なぜ通ったか?等)

・EBM と flow-based model の敵対的な目的関数を用いた joint training の枠組みが新しかったこと・FCE を行った結果, flow-based model の精度が向上し EBM が後続のクラス分類タスクに有用な表現を学習したこと, が採択の理由と考えられる.