10万神经元不够,130个反而更准?深度网络凭什么? 1989年,乔治·赛本科证明的“万能近似定理”说:足够宽的两层神经网络,可以任意精度拟合复杂函数。 但为什么现实中,10万个神经元的浅层模型,依然学不好比利时/荷兰边境那条极其复杂的边界? 本期用几何可视化拆解神经网络到底在做什么: 第一层如何用 ReLU 把地图折叠? 第二层如何缩放、翻转、组合曲面? 决策边界如何从一条直线,变成精细复杂的多边形? 我们还会对比浅层与深层: 把128个隐藏神经元分成4层,总5层约130个神经元,效果竟然超过10万神经元的浅层模型。 区域数量为什么随深度指数增长,而宽度只能多项式增长? 梯度下降为什么会卡住?“死亡神经元”又是什么? 最后,看5层×32神经元如何逼近小镇边界。 #神经网络 #人工智能 #AI学习
作者:1****熵
音乐:@1****熵创作的原声
时长:28:31
评论数:10
点赞数:0.06万
分享数:115
收藏数:374
更新时间:2026年9月13日 13:17