主题：【原创】围绕脑科学而发生的若干玄想 -- 鸿乾
家园 其实人们这样想，正好错了 现在我们知道，从40年代兴起，而在70年代达到高潮的人工智能热，是基本上想错了方向（当然，其中产生的成果是非常丰厚，非常值得的）。人工智能按照那些方向，是基本上不可能的事情。
你说：“几乎所有的对人工智能报有兴趣，期望的人，都是在潜意识里边希望每一项得到的人工智能都达到不低于人脑所能达到的高度”。这就是基本的错误思路。
其实，我们应该把人的智能（或者说人的脑力活动）分成若干层次。第一层，即我说的信息处理层次，计算机已经比人做得好，好很多。第二层次，即学习能力，计算机才刚刚开始，或者说这方面的工作才刚刚开始。我认为，这个层次的人脑能力，完全有可能为计算机掌握。过几十年后，我们完全可以期望计算机可以有至少小学生的学习能力。这样的计算机再加上人工编程介入的能力，将在事实上超越目前的大多数人的智力（请注意不是智能）。
但是人脑的能力，远不仅止于学习这一层。从这样分层的角度看，那种眉毛胡子一把抓的各种图灵实验各种人工智能实验，其实没有抓住问题的实质。这是我的基本想法。
家园 图灵试验抓住了“智能”的实质—“智能"是我们主观想象出的 图灵试验抓住了“智能”的实质——“智能"是我们主观想象出的概念，从没有什么严格定义。只要我们主观觉得，看起来像智能，那就是智能。
目前，医学上仍然没有什么检测方法，检查精神裂症，自闭症。。。等等“智能”，思考能力出问题的病症。而都是医生的主观判断。医生看着你像是“智能"出问题了，那就是出问题了。没有客观判据。
我们甚至都没有办法判断，坐在你面前的一个人，是否有“智能”。因为智能没有定义过。只是我们的一种主观感觉。
“智能”的本质就是没有智能。智能并不是一种特殊的算法，特殊的逻辑。
我说这个的意思是说，我们如果想做一个智能机器，模仿人的行为的话，不需要进行仿生学设计，不需要从基本构架模仿人脑。
即使有一天我们对人脑的神经细胞的关系和逻辑有了更多认识，甚至解释出人脑的最小功能单位的运作原理（比如，几个细胞联合记忆某个东西，几个细胞联合进行逻辑处理），我们也不必去模仿人脑而制作功能类似人的机器。
如果我们用计算机，不断增加复杂度，做出机器的行为，看起来像智能，听起来像智能，动起来像智能，那就是智能。
本帖一共被 2 帖 引用 (帖内工具实现)家园 “智能"是我们主观想象出的概念, thank you! 智能(of human beings) not=功能, in the conventional sense of physics;
智能=highly social, highly 主观, such as/kind of like 效用函数 in financial market, 理想, 民族進步(culture identity), 價值, and 價值 is 社会價值...
those things can lead/move market, lead/move a society, so those 智能 things have huge energy, but physics so far does not understand those 智能, and actually marx has a good start on 社会價值;
and china'tg, us 5 tgs(ws, wh,sv,ny times, Hollywood), they are all practicing top social scientist, except for sv high tech folks, those top social scientists learn by doing, doing with learning, have a pretty good handle on those 智能 things;
I think modern physics/math potential is under utilized in studying those type of 智能, and without physics/math model to compete with those top social scientists, they will be 壟斷寡斷, controlling sys admin positions for ever and charging society high tax;
those top social scientist used to be a group of church, military, family politicians for long time, until capitalism takes over, then capitalists kick out church, keep some military guys, some elected politicians, and some Hollywood folks, and that is pretty much where we are today;
actually, marx kind of figured that out, thinking society paying too much to those social elite led by capitalists, and those capitalists did not play a real leadership role as they are priced or paid, but his "united workers" technology did not work out, and never going to work out;
so, in future, we may have a physics/math led social 改良 in the name of 智能, so society can have a more competitive and diverse 智能/leadership, not the current 壟斷(tg)寡斷(us) form, which is extremely expensive with very little returns if any, from global humanity system's point of view
家园 看不懂。不好意思。 如题。
家园 我对人工智能的期待正是这样的。 都是在潜意识里边希望每一项得到的人工智能都达到不低于人脑所能达到的高度（以替代人脑） -- 换句话说，是否最优解姑且不论，至少是要真的在无人干预的情况下解决问题虽然比较难以启齿。 面对这个知识爆炸的年代，我需要人工智能代替我去google，学习新知识，只要告诉我最好哪个方案最好，甚至给我当军师，当老师，为我做重要决策，处理日常方案，比如一般性的事物工作，技术工作，这样把从80%的日常工作中解脱出来， 我可以去做更重要的事，比如如何提高人工智能的水平，或者延长寿命等，或者干脆就去旅行，做撒手掌柜，专心做人该做的事，养儿育女。
最好的是人工智能可以自我衡量，然后通过自我更改来提高，这样就真的不用去管了。而且还可以有不同分工的智能，有的精通历史，有的精通数学，有的专门管理，类似人类的术业专攻。
当这一天到来时，真正的问题是这一切与我是什么关系。 如何才能保证我是得益者，或者说握有控制权。
家园 倒是没想到您说的这个思路 不过我想也应该先做出点低于人类高于好比说狗的东西来玩玩吧。忽然想到，要是我没记错的话，您不是真的搞人工智能的吧，好象您是搞人眼的，或者说是红外或微波成像的，您上回说的那东西最后结果如何？
家园 在满世界找合作伙伴呢 结果很不错啊。近几个月在概念上和技术上进一步确认了我们的想法。由于我们自己不做基础研究的，所以在寻找基础研究方面的合作伙伴。
我嘛，嗯，算是有半只脚站在人工智能这个圈子里边吧。不过更偏向算法一块。
我工作的公司有很大一块是在眼科的诊断设备，治疗设备上。自己这两天在想方设法地分析人的泪膜。
家园 人脑并不追求最优解 根据目前的情况，权衡得失作出判断，这个才是人脑的思维模式。达到这个水平的人工智能，是有可能的。
退一万步说，人造智能是不是能够到达正常人的智力水平，并没有在理论上被证否。
人和动物的区别在于会不会制造工具。自动化生产表明冯纽曼机的实现是完全有可能实现的。目前的问题是机器会不会有自我意识。其实这个是伪命题。因为自我意识是可以描述的，所以也可以编码实现。
当然，人工智能和人的智慧是不同的东西，肯定有不如人的地方和超过人的地方。
家园 有名的Moravec's Paradox 说的就是这个人与机器各有长短的地方，历史上早有结论了。
- 复 讲的太玄了
家园 人工智能是没有什么无法突破，无法突破的是人类的认可 和任何权威组织一样，人盯的不是作对的地方，而是作错的地方。学习系统是不可能避免规则自相矛盾的，权重优化等级而已。 问题是每个人的权重标准都不一样。人工智能再优化也不可能超出人类整体的统计意义上的认识。平衡一个小球，机器很容易作到。 一堆黑白球里找出白球来也容易。能从一群混堆的黑白球里联想出馄饨理论出来的人工智能，绝大多数时间输出的恐怕都是人类不能理解的“垃圾“
家园 这是两个概念 人工智能只是达到个体的人的智能程度，你说的是人类的集体智慧。人类的智慧程度是几十亿人几千年来的积累和总结，这个不是人工智能的目标，至少不是近期的目标。
饭都是一口一口吃的。目前的硬件水平不足以支撑计算机模拟单个的人的智力水平，更不要说人类整体了。
但是硬件的发展速度是很快的，10年以后的机器会是什么样子呢？50年以后呢？
混沌状态下求最优解，这个不是什么难事，理论上计算机是可以做出最佳的。目前需要的是对自然语言的认知和对感觉的处理。
其实对世界上的事情不同的看法和做法都是一直存在的，所以设定不同偏好的计算机所得出的结论不同是很自然的事情。人类智慧无非是通过不同个体实践经验的总和。
所以，在将来，我们可以成功的用计算机模拟不同思维模式的人类个体的时候，计算机之间也是可以交流实践经验的，这样就形成了计算机的集体智慧。
家园 最近读了Kurzweil的How to create a mind http://www.amazon.com/How-Create-Mind-Thought-Revealed/dp/0670025291
有了点想法，似乎现在的人工智能的热点已经不是数学上的探索了，一个接一个的直接用电路模拟大脑的比比皆是，最新的一个甚至就是用电压来模拟神经元触突的激发，来达到尽量多的神经元的目的。
目前以数学模型为基础的,hidden morkov，贝叶斯等所谓deep learning的机器学习，已经能够得到不错的学习效果，siri，自动驾驶， X-47B等等实用例子比比皆是，但是人类的许多工作多多少少其实是需要一点创造力的，至少能够举一反三，而不是举三反一，这还是说的最简单的事务性工作，虽然比生产线工作复杂，但远远没到需要想象力的地步。比如，有些挑战性不大不小的工作，编写程序，这个工作要求的智力水平，将是衡量人工智能最终能不能超越人的关键拐点。因为，一旦人工智能可以自我提高，将会以远超过人的效率很快的自我改进而把人摔在后面。
以前河里有人提过曾有过数学上的证明，智力上有极限的。那个数学证明不太理解，但是有一点不需要太高的智力就可以理解，按照目前脑神经学科对大脑结构的了解，以及如Kurzweil等人对大脑数据流的基本物理描述，虽然其智力产生的原理仍然在初始的探索阶段，但是如果人的大脑皮层是目前的十倍大，神经元的数量与链接都超过人类大脑的话，肯定其能够产生的智力比人的智力高。那么，下面的问题除了理解智力产生的原理外，就是个摩尔定律的问题，什么时候人类的电子水平可以在不需要很大投入的条件下造出超过人脑神经元数量与传输速率的电路，什么时侯这个问题就有了答案。
当然，这个答案肯定不是最优解，因此对智力的产生原理的理解才是重要的。因为了解后还可以改进，也许人工的智力不需要自然人脑的某些冗余，虽然这只是一个猜测，目前的人的科学水平与智力水平，刚刚才解决了人是不是上帝创造的问题，或者说一部分上解决，因为许多人包括生理心理学家对人的自我意识仍然很困惑，仍然不能相信这竟然是物理神经元互相作用的结果，下一步是不是用自身的智力去揭开智力产生的原理，这个问题一般人想一想都已经很绕很头痛了，最终是不是能够解开还不肯定，甚至人所能做到的也只是初级的人工智能，但是可以自我更新提高，最终这个任务要交给人工智能自身去解决也未未可知。我这么说可能已经很绕了，但理工科的人应该理解起来不困难，这不是不可想象的。
这个问题有点类似那个多维空间的问题，生活在二维空间的人可以想象三位空间，但是四维空间就超越了大多数人的想象力，这只是个比方，但是人脑创造出来的数学模型解决的只是类似这个二维空间层次上的问题，不是说二维空间的问题，而是打个比方，那么人对高层次的解决办法是组成社会，以不同的人分管不同层次的问题来扩大大脑的操作层次，因此人的社会才是金字塔型的，这个也类似个体大脑自身内部的运行方式，只不过人与人之间要通过语言来沟通，要通过互动来合作，虽然经过千百万年的进化，人脑与人脑之间的连接仍然与脑神经元之间的链接有着天壤之别。话说如果大树的细胞之间互相可以通过化学物质传输信号，如果速度足够快，距离足够短的话，大树也可以进化成堪比人脑的智力，所以这里面的关键是神经云的数量，结构与传输速度。
比如人与一部分动物身上出现的自我意识现象，应该就是这个金字塔达到一定高度自然出现的结果。就比如我们的手去抓东西，这是个底层要解决的问题，但是大脑的高层同时还在关注手的动作，那么再往上呢？ 人的社会组织中底层要解决穿衣吃饭生产的问题，中层要关注这些做具体工作的人，上层就要关注组织整体的问题，再上层呢就要关注行业整体与国家地区的问题，大脑中有多少层呢？现在已知的一些高层大脑活动包括哲学等，已经是在很抽象的领域内思考问题了，但对与解释大脑自身的原理上，却仍然是远远不能胜任的。
自我意识的一个连带问题就是人不能解释自身这个物理现象，于是就产生了信仰宗教等让社会中不需要考虑高层问题的人脑自我抑制在有限智力的方法。这从侧面也说明了人脑的生理结构上大体上相同的，但是个体的智力水平早已发展到超越了生存的需求，因为群体社会可以解决很大一部分生存的需求问题。但是在高层问题上，人脑的智力水平还远远不够用，所以就有人关注群体的自组织现象，希望能够理解自组织原理，但是这个问题也是超越人的智力水平的，包括人目前可以操控的科学理论计算机等工具在内。但是人的群体毕竟不是蚁群，在解决人的智力这个问题之前，有关人的问题都不会有很好的答案。
大约有一个猜想，人对智能的探索上大都有一个预设前提，就是这是个工具，一定要在人的控制下这个前提。说白了，就是人脑创造一种低于人脑智力的智力，这个问题有点哲学了，但是我认为这个前提很可能就是制约人对智力开发的最大阻力，换句话说，不能接受智能的不可控就不可能发展出真正的智能来，就是说，用我们的已知去构建一个我们的未知，把人类的未来交给一个不可知的人创造出来的结果，而不是生产出阿猫阿狗黑猩猩那个水平的智力工具，这可能是最终决定人工智能的一道关卡。
家园 唉，”人工智能“的本质就是美国的又一大忽悠 根据美国选忽悠题材的规律。大师们是深知人工智能和人是两个认识系统的。但正是这样，所以才适合拿出来忽悠：什么人工智能越来越接近人啦。扯蛋！拿一些表面的接近比来比去忽悠人，掩盖人工智能和人的认识系统的不同。还非管不同叫"悖论"。
家园 大师们正反意见都有，不怕忽悠 倒是这个认知系统的不同希望你能解释一下。从目前的发展看，这些人是希望弄清人的认知系统，至少是一部分，希望通过人工模仿来达到人工智能。至于是不是能够完全达到人的智能水平，甚至完全模仿，这个显然现在说还太早，出现的这些方向都只能算是尝试，当然进步还是很令人鼓舞的。
这种早期科研的工作“忽悠”往往是有其必要的，否则资源由谁来投入，没有投入如何发展。现代科学的进展没有大规模的资源投入是不可能的，因此这个造势，或者叫“忽悠”，实际上与科研机构找funding是一个道理，不过是在全社会的范围内，规模超级大而已。实在是没有必要贴道德标签，甚至与国际政治去产生交集。
家园 抛两块砖吧 1，Moravec伪悖论就是个例子啊。
it is comparatively easy to make computers exhibit adult level performance on intelligence tests or playing checkers, and difficult or impossible to give them the skills of a one-year-old when it comes to perception and mobility.就是说机器的基本、简单的能力，对于人是困难的。人的基本、简单的能力，对于机器是困难的。说明两者本质上不同。2，两者是不同的，也是“复杂系统”理论最基本的成果。
至于“忽悠”、道德和政治问题，对由于XX题材“忽悠”到更多钱的人，自然就觉得没必要。对由于XX题材钱少了的人、或出钱的人，自然就觉得有必要。