- …
- …
#522
summarized by : 志田遥飛
どんな論文か？
本論文では自己教師あり学習における「Contrastive Learning，asymmetric，Feature Decorrelationといった手法を同じ枠組みで扱うことができない」という課題を設定．各種手法における比較実験で「勾配の計算式が異なっても性能は変わらない」「重要なのはモーメンタムエンコーダーを使用していること」という結果を得て，それを元に新たな勾配式UniuGradを提案した．
新規性
自己教師あり学習における3つの代表的な手法が，勾配解析による評価において類似の性能を発揮することを公正な実験で示すとともに，モーメンタムエンコーダー使用の有無が性能に直結するということを新たに示した．
結果
提案手法UniGradは，メモリバンクや非対称ネットワークを必要とせず，性能向上のためにCutMixやmulti-cropといった手法を容易に組み込むことができることがわかった．
また，性能検証のため既存手法とImage Netを使った線形評価による比較を行った．(添付した画像が結果)
その他（なぜ通ったか？等）
【論文を読んだ感想】
提案手法の性能検証が線形評価のみだったので他下流タスクにおいて本手法がどのように作用するのかわからなかった．
- …
- …