- …
- …
#1003
summarized by : 福沢 栄治
どんな論文か?
オンライン深度学習は、継続的に変化する環境を処理するために深度推定モデルを一貫して適応させる問題です。ネットワークは現在の環境に簡単にオーバーフィットし、過去の経験を忘れているため、この問題は困難です。このような問題に対処するために、この論文では、監視されていない方法で新しいターゲットドメインにオンラインの単深度適応を行うため、新しい忘却学習(LPF)手法を紹介します。
新規性
ユニバーサルパラメーターを更新する代わりに、LPFはアダプターモジュールを学習して、オンライン状態で事前に学習した知識を失うことなく、機能の表現と分布を効率的に調整します。過剰適合をさらに回避するために、各オンライン学習ステップで勾配降下法を調和させるために、新しい時間的一貫性のある正規化を提案します。
結果
現実世界のデータセットに対する広範な評価は、非常に限られたパラメーターで提案された方法が推定品質を大幅に改善することを示しています。
その他(なぜ通ったか?等)
- …
- …