#131
summarized by : Yusuke Mori
Learning to Remember: A Synaptic Plasticity Driven Framework for Continual Learning

どんな論文か?

Continual learning (CL) においては、(1)新しいタスクを学習する際に古い知識を活用しつつ、その知識を維持しなければならない(2)モデルのスケーラビリティを保証しなければならない、という問題がある。これらの問題に対して、シナプス可塑性を用いたフレームワークである Dynamic Generative Memory (DGM) を提案する。
placeholder

新規性

疎な注目マスクを、ネットワークの重みにそのまま適用する DGMw と、レイヤーの活性化に適用する DGMa を提案した。

結果

クラス数を増加させる CL において、DGM が catastrophic forgetting を克服していることが示唆された。

その他(なぜ通ったか?等)