テキスト認識において、従来の encoder-decoder with attention のモデルには文脈のないランダムな文字列に対する性能が低いという問題があった。その原因は従来のモデルでは位置情報が十分活用されないためであることを発見し、よりランダム文字列に適したネットワークを設計した。