人間は通常、自分の推論（分類など）を説明する際に、画像を分解して、その部分から頭の中の概念につながる証拠を指摘します。 この認識プロセスにヒントを得て、予測を説明するために、いくつかのパートレベルの解釈可能なニューラルネットワークアーキテクチャが提案されています。 しかし、これらはデータ構造が複雑で、個々のパーツの効果と出力カテゴリが混同されてしまうという問題がありました。