#251
summarized by : 志田遥飛
DATA: Domain-Aware and Task-Aware Self-Supervised Learning

どんな論文か?

自己教師付き学習(SSL)に特化した,シンプルかつ効果的なNeural Architecture SearchアプローチであるDomain-Aware and Task -Aware(DATA)を紹介.巨大なスーパーネットをラベル無しで学習,SSLに対応した柔軟な探索手法を提案している.またDATAが既存のSSL手法と相性がよく,SSLの課題を解決するために効果的な手法であることを示した.
placeholder

新規性

SSlが抱える次の2つの問題を解決できる手法を提案していること. Q1:異なるアーキテクチャのネットワークを同時の学習させることが可能か? A1:Siam型SSLのためのスーパーネット学習機を用いて解決. Q2:ラベルや評価指標がない場合どうやってネットワークを評価するか? A2:サブネット間の距離,スーパーネット内の最大ネットワークを評価指標として採用し解決.

結果

(1)いくつかの自己教師付きベンチマークを用いて本手法導入によって得られる効果を検証.(2)Siam型以外の既存のSSLと組み合わせて一般性を検証した. (2)の実験結果を一部抜粋して画像として添付する.

その他(なぜ通ったか?等)

【Githubへのリンク】 https://github.com/GAIA-vision/GAIA-ssl.