#132
summarized by : Hiroaki Aizawa
Can We Characterize Tasks Without Labels or Features?

どんな論文か?

転移学習において目的のタスクに適した転移元のネットワークを選択することは重要な問題である.選択するためには,前提として,画像データセットから得られる特徴と,そのラベルの両方が必要となる.この論文では,どちらか一方しか利用できない場合,どのように目的のタスクを評価し,必要な転移元タスクを選択すべきなのか?という問題に取り組んでいる.

新規性

ラベルが利用できないとき,Task2Vecをベースに入力の特徴を抽出する転移元のネットワークからpseudo labelを作成することからタスクを評価する.一方で,この方法はドメインの差によっては適していない場合がある.そこで,特徴を利用せずラベルのみから評価するために,ランダム初期化されたネットワークの勾配から類似性を計測するTask Tangent Kernel (TTK)を提案.

結果

Task2Vecと同様にCUBとiNatから擬似的にタスクを生成することで評価を行う.結果として,ランダムな選択方法やTask2Vecなどの従来手法と比較して,ラベルもしくは特徴が利用できないにもかかわらず,同等のもしくはそれ以上の性能を達成した.特に,論文中の図5をみると提案手法が目的のタスクに適した転移元タスクを選択できていることがわかる.

その他(なぜ通ったか?等)