近年、CLIPなどの大規模Vision-Language事前学習モデルはFine-grained認識タスクにおいての精度がまだまだ改善する余地がある。ここで、言語テキストからCNNのAttentionマップの推定をSuperviseすることを提案。具体的に、大規模事前学習モデルからテキスト中の重要な名詞のアテンションを得てそれを元にCNN学習のAttentionの学習を行う。