#570
summarized by : Yoshihro Fukuhara
What Does It Mean to Learn in Deep Networks? And, How Does One Detect Adversarial Attacks?

どんな論文か?

DNNの活性化関数の相互関係からGraphを構成し、そのトポロジカルな性質から、学習がどの程度進んでいるか、汎化性能はどうか、Adversarial Exampleによる攻撃を受けていないか等の指標を提案。
placeholder

新規性

DNNの各nodeの活性化の相関関係をfunctional graphとして表現し、functional graphによってDNNの振る舞いを表現した点。また、functional graphが汎化性能などのDNNの性能を測る指標として有効であることを示したこと。

結果

実験によって検証を行い、functional graphのクリークやベッチ数などから、汎化性能やdversarial Exampleによる攻撃を検出することに成功した。(しかし、DNNのモデルとしてはLeNetなどの浅いモデルでの実験しか行われていないため、層の深いネットワークでの結果も確認してみたい。)

その他(なぜ通ったか?等)