GradCAMなどのAIモデルをより人間に解釈しやすくする手法が多く提案されているが、提案された手法の体系的な評価方法は不足していた。 この論文では、HIVEという新しい人間評価フレームワークを提案し、GradCAM、BagNet、ProtoPNet、ProtoTreeの4つの手法を評価した。

確証バイアスから、人間はモデル予測について説明を受けたとき、たとえ間違っていたとしても、それが正しいと信じる傾向があることを発見した。

https://princetonvisualai.github.io/HIVE/