#390
summarized by : Kiro Otsu
Low-Rank Compression of Neural Nets: Learning the Rank of Each Layer

どんな論文か?

ニューラルネットの軽量化は各レイヤーの重み行列を低ランクなもので近似することで達成できるが、各レイヤーの最適なランクを決定することは難しい。そこで、重み行列のランクの総和が一定以下になるように問題を定式化する。

新規性

ニューラルネットワークの低ランク圧縮をモデル選択の問題として定義した点。今までのものは学習を終えてからトポロジーを変更する(プルーニングなど)が多かった。

結果

VGGネットワークをResNetよりも軽量かつ同程度の性能にすることに成功した。

その他(なぜ通ったか?等)