#435
summarized by : Hirokatsu Kataoka
Class-Incremental Learning With Strong Pre-Trained Models

どんな論文か?

既存の大規模データと新規の(比較的)小規模なデータを組み合わせて、より良い事前学習モデルを構築する研究。概念的にはClass-Incremental Learning(CIL)に該当。添付図のようにオーバーラップする画像カテゴリを含みつつ、大規模・小規模データを融合させて新たに学習させる。
placeholder

新規性

2ステージのCILの適用により、破滅的忘却を回避、ベースネットワークの学習をより効果的に行い、従来のCIL手法の最高水準の精度を大きく超える精度を実現した。

結果

ImageNetデータセットにおいて、従来行われていたCILの設定で実験。800のベースクラスと40の新規クラスにより構成。この設定において、提案手法は従来のCIL手法よりも最大で平均精度において10%以上の差をつけて良いことを示した。

その他(なぜ通ったか?等)