主题:周五之前 -- 本嘉明
机器学习包括神经网络(深度学习属于神经网络)都会遇到过拟合问题。在训练数据集上效果很好,但是换成实际数据效果下降很多。过拟合问题是困扰机器学习发展的关键问题。
过拟合问题现在科学家们已经基本明白它与世界六大数学难题之一NP问题密切相关。机器学习面临的问题通常是NP-hard甚至更难,而有效的学习算法必然是在多项式时间内运行完成,若可彻底避免过拟合,则通过经验误差最小化就能获最优解,这就意味着我们构造性地证明了“N=NP”,因此,只要相信“P≠NP”,过拟合就不可避免。
NP完全问题同属于世界六大难题。具体的是NP完全问题、霍奇猜想、黎曼假设、杨-米尔斯存在性和质量缺口、纳卫尔-斯托可方程、BSD猜想。这六个问题都被悬赏一百万美元。
神经网络的发展数学上贡献一直不多,神经网络内部的黑盒化使得数学家们无能为力。几何大师丘成桐就对此颇为不满。反而在模拟脑结构上一直有很多进步。脑科学的对神经网络的发展贯穿其中。像陈王说的“忆阻器的类脑计算”就是脑科学的贡献。脑科学发展相对IT届速度上有很大区别,由此对于AI要秉持厚积薄发的态度,不要激进更不能投机。
- 相关回复 上下关系8
压缩 3 层
🙂前几天狂妄,踩了一下AI 5 陈王奋起 字248 2019-07-11 12:57:28
🙂老兄踩的不是AI 4 本嘉明 字254 2019-09-12 00:12:18
🙂任总发现AI不是高科技,华为就可以做得很好 4 陈王奋起 字206 2019-09-12 03:54:12
🙂不能过高估计AI,因为有座NP问题的大山在前面。
🙂香港问题不过芝麻粒大的小菜一碟 2 HAL 字88 2019-07-03 02:17:21
🙂现在知道这个的威力了吧? 7 本嘉明 字1637 2019-09-12 00:06:41
🙂待认可未通过。偏要看
🙂早知道香港不是一粒芝麻,是个西瓜大的雷! HAL 字150 2019-09-12 14:15:11