summarized by : GOTO Keita
Accelerating Sparse Matrix Operations in Neural Networks on Graphics Processing Units

概要

後藤啓太
placeholder

新規性

従来の機械翻訳モデルではビームサーチに用いられるSoftmax計算とTop-N計算が処理時間の多くを占めていた。本研究ではスパース行列に対して、その乗算と、SoftmaxとTop-Nを同時にGPUで計算できる挿入ソートを元にしたアルゴリズムを提案している。

結果

機械翻訳のためにスパースな行列に絞ってアルゴリズムを考案・検証している。