观察到神经网络的设计选择通常对其成功优化至关重要。因此，本文讨论了一个问题：是否始终可以重新设计神经网络，使其通过梯度下降良好训练。
这产生了以下普适性结果：如果对于给定的网络，存在任何算法能够为分类任务找到良好的网络权重，则存在该网络的扩展版本，通过仅净梯度下降训练即可再现这些权重及其对应的前向输出。
这种构造并非旨在进行实际计算，但它为元学习及相关方法的可能性提供了一些方向。
提交历史 来自：Gerrit Welper [查看邮箱] [v1]2020年7月27日16:17:19 UTC (31 KB)
关键实体：人员：Gerrit Welper
来源: Hacker News · 由HeadlinesBriefing整理摘要