metric learningにネットワーク蒸留を使用する。 そのため、教師ネットワークと生徒ネットワークの通信をモデル化したloss functionを2つ提案する。

CUB-200-2011、Cars-196、Stanford Online Productsを含むいくつかのデータセットを用いて評価、さらに同程度のスタンダードネットワークを用いるより著しく良くなっていることを示す。