- …
- …
#131
summarized by : Yusuke Mori
どんな論文か?
Continual learning (CL) においては、(1)新しいタスクを学習する際に古い知識を活用しつつ、その知識を維持しなければならない(2)モデルのスケーラビリティを保証しなければならない、という問題がある。これらの問題に対して、シナプス可塑性を用いたフレームワークである Dynamic Generative Memory (DGM) を提案する。
新規性
疎な注目マスクを、ネットワークの重みにそのまま適用する DGMw と、レイヤーの活性化に適用する DGMa を提案した。
結果
クラス数を増加させる CL において、DGM が catastrophic forgetting を克服していることが示唆された。
その他(なぜ通ったか?等)
- …
- …