Quantitative CLTs in Deep Neural Networks. (arXiv:2307.06092v1 [cs.LG])

無限幅NNがガウス過程であることはよく知られている．この論文では，有限幅のNNとガウス過程とのズレをさまざまな尺度で評価している．多くの類似研究が隠れ1層を扱うのに対し，この論文の結果は多層NNにも適用できる点が新しい．またこの論文の結果を隠れ1層NNに適用すると従来の結果よりもタイトな制約を与える場合もある．多層NNに適用できる(著者らが知る限り)唯一の先行研究 [BGRS23] とは適用できる条件が違うらしい．

基本情報

@misc{favaro2023quantitative,
      title={Quantitative CLTs in Deep Neural Networks}, 
      author={Stefano Favaro and Boris Hanin and Domenico Marinucci and Ivan Nourdin and Giovanni Peccati},
      year={2023},
      eprint={2307.06092},
      archivePrefix={arXiv},
      primaryClass={cs.LG}
}

論文リンク

arXiv

著者・所属

• Stefano Favaro, Boris Hanin, Domenico Marinucci, Ivan Nourdin, Giovanni Peccati

新規性

手法

結果

議論・コメント

関連文献

Tags