Gowthami Somepalli; Liam Fowl; Arpit Bansal; Ping Yeh-Chiang; Yehuda Dar; Richard Baraniuk; Micah Goldblum; Tom Goldstein
決定境界の可視化手法を提案し、決定境界の類似度を定量化することでモデルの性質を分析している。
決定境界の可視化手法を提案した点、およびこの可視化手法を用いて決定境界の分析からモデルの性質を分析している点
提案した可視化手法を用いるとCNN系列のモデルとViTでは異なる決定境界が異なる。CNNモデルは幅が広くなるほど異なる初期値から類似度の高い決定境界に収束する。等
得られている結果の数々が非常に面白く、モデルの性質を理解するうえでとても有益である。