画像に対して質問応答の履歴も考慮して質問に回答するVisual dialogタスクにおいて、モデルは複数の入力（画像、質問、質問応答の履歴）を考慮する必要がある。本研究では複数入力に対応するTransformerベースのモデルLTMIを提案し、入力ごとに別々のmulti-headをあてがう工夫によって、少ないパラメータで高い性能を達成した。