五千年(敝帚自珍)

主题:如果要走向强人工智能,openai的路线根本就是错的 -- 亮子

共:💬91 🌺314 🌵1
全看分页树展 · 主题 跟帖
家园 从入门的角度来说一下

我希望老兄你不是行业一派掌门、在问一个体系终结问题,那我的回答就是个笑话啦。这儿借用一下那个怎么把大象放入冰箱的问题:打开冰箱门,把大象放进去,然后把冰箱门关上。如果你对大象和冰箱的相对体积没有概念的话,你可能会说:这个冰箱门设计的是比较奇怪,但这件事真的有那么难吗?

深度学习难,可以提能把因果链搞得相对比较简短的三点,但我并不是说这是最重要的三点。第一,非线性是毒药,不需要有太多,整个系统就质变了。第二,深度学习和其它很多学习模型一样,最后要解一个最优化问题; 非线性同时也导致了一个求非凸函数的极值的问题。人类的数理发展到今天,还没有什么相对没那么难或者一般化的方法来解非凸函数的极值。第三,雪上加霜的是我们同时还面临着一个高维度的问题。当然,谁要说,非线性、非凸、高维度那又能怎么样,你不还是一个简单的函数吗,那就没有什么讨论的共同基础啦。

另外一个可以借用的故事就是那个往象棋盘上放麦子的问题,开始小规模的问题很快会变成规模超大的问题。这也是开始的时候要用一个非常简单的非线性函数的部分原因。

希望不远的未来,数学家们和计算机学家(从事基础研究的计算机学家也都是数学极厉害的人)能找到更有效率的方法来解决这些问题。但如果我妄下断言一下,即使真能找到一个神奇函数、它也只能解决这些问题中非常非常小的一部分。

通宝推:偶卖糕的,唐家山,透明,
全看分页树展 · 主题 跟帖


有趣有益,互惠互利;开阔视野,博采众长。
虚拟的网络,真实的人。天南地北客,相逢皆朋友

Copyright © cchere 西西河