主题：【原创】从《I, Robot》的话题谈俺对机器生命的认识 -- 你克我服
大家都看了最近的电影《I, Robot》了吧？
虽说这部电影与阿西莫夫的小说《I, Robot》除了机器人三定律以外就没有太多的相似情节，但在三定律的理解上，毕竟也是与阿西莫夫有着类似的追求的。
影片中的进化“过头”而良心大大地坏掉的机器思考中心--VIKI，和有远见的教授所开发出来的另一个杰出作品sonny，区别恐怕也就在于有没有感情这一点了。
其实我们可以看到，VIKI的自我完善，导致了它对三定律的更深刻地理解；只是由于没有产生出感情这个东西来，所以才会以保护人为借口而攻击人类和试图统治人类。好在教授给与sonny这个特别版机器人的进化礼物是具有感情，最后才可能反戈一击。
不过，看看最后一幕就能知道，此时的sonny已经非比从前了！它之前告诉威尔史密斯所谓“那个人就是你”云云，原来都是骗人的----只有它自己心里才清楚：未来的这个机器人世界的领导人是自己~~~~
从这个细节中不难看出，以sonny为代表的高级机器人的意识里，相对于人类的优越感依旧存在。更可怕的是，它也学会了通过感受和理解等等手段去支配人类为他们工作~~~~~~~
说来说去，出现这样结局的问题的根本，在于三定律本身是不严谨的，订立三定律的人就没有意识到对三定律理解的深度和层次，会导致完全不同的结果。因此说，三定律才是祸根。
当然，阿西莫夫早已意识到这个问题，已经超越了这个简单的层次讨论这个问题了，他也绝对不会说“机器人三定律是我所发明的”云云~~~~
现在我们要面对的问题是，人类抽象的速度和深度，比起具有速度优越性的机器，迟早是要甘拜下风的。呵呵，以此看来，似乎matrix里面机器统治的世界迟早会来临的......（也许早就来临了？）
***************************************************
呵呵，仅仅想到这个层次，那未免思想悲观了一点。
老服俺中学时候就对这个问题很感兴趣，仔细想了很久，想通之后才发现是庸人自扰。
众所周知，阿西莫夫描述的三定律，从静态角度来看，相当好地控制了机器生命的发展，也有严谨的逻辑推理，保证机器人不会为害。但我们却无法预计随着机器人/机器器生命的能力的提高，在这个三定律约束下，它们会向什么方向变化。阿西莫夫的《I,Robot》里面的小故事集，也就是起源于对此等问题的担忧，只不过是很小的一部分而已，不过我想这就够人类受的了~~~~阿西莫夫也一定是这么认为的。
所以，阿西莫夫看三定律这样的思路，已经顾及到了“动态视角”的问题，也就是说，随着情况的变化，这个静态的三定律有可能被理解走样~~~~甚至变得脱离我们原来订立此定律的本意！--------阿西莫夫的见解也就及于此为止了。
其实，只要更看破一层，就会不难发现： 人类以自己有限智能所定义的规则/定理，其实都和三定律这样的模式一样，充满着对未来的盲目性和未预见性。因而，最多只是顾及到眼前而已。
换句话总结，也就是“人类做不了创造者，做不了造物主，因为无法预见自己创造出来的东西将会变成什么样子！”
现有的实证科学，必然就会导致这样局面的产生。就像我们能够知道晒太阳可以促进体内维生素D的合成，然后就都跑去晒太阳，过了些时候才发现会造成皮肤癌~~~~~就像我们能够知道晕立停吃了可以缓解孕妇反应，于是就去吃晕立停，过了些时候才会发现畸形儿与此相关~~~~~~我们总是在预料不到后果的情况下，去尝试这尝试那。据说这就叫做科学。
***************************************
俺试着站在阿西莫夫的角度模拟了一下“创造”的游戏，果然是不好玩得很。
俺是这么推算的。
让机器会思考，才是创造的关键。实现这一目的，就要从创造“进化”机制开始做起。
现有的进化理论关键在于
1）复制
2）变异
3）遗传
在有限的生存环境下，具有上述相等特征的“生命”，将会自动因“适者生存、不适者淘汰”的规律进行演化。
明白了这一道理，我们对这一机制的模拟，也就可以轻易完成了。
构筑一种特别的病毒，只在内存里进行自我复制。要是空间没有了，则覆盖自己的前辈~~~~
要知道，计算机的自我复制具有两个特性：
1）准确
2）快速
我们借助第二个特性“快速”进行复制，而“准确”这个特性则不是一个绝对100%的保证，在成千上万乃至数十亿次复制中，迟早会有“意外”发生的，这就是我们所需要的“变异”了。
（其实就算机器自己不产生足够的变异，我们也可以随机让它在一定的概率下产生某些变异的）
我们可以预见，程序的自我复制和执行从一开始的原始状态突然发生了某种变异，也许就是一个字节发生了变化，但带来的结果就可能是这个变种的程序由于被破坏而执行不下去了，从而导致这种变种没有办法产生“后代”，继而灭绝；但变异的可能性也许是碰巧是“复制的次数加倍”，从而使得这种变种具有了比原有种类更强大的生命力，慢慢的机器中到处都是这种新的“变种”，而取代了原有的版本；
我们都知道，人类也好，动植物微生物也好，都没有机器这般的高速度，也就是说，机器的进化机制如果成功，也许很快就会发展起有趣的生命体来，而且将会越来越快。与人类的进化所不同的，就是机器生命的进化的生存空间仅仅有CPU和内存这么大范围.......而我们拥有一个大得多的空间。
但就像我们不满足现在这个牢笼一样，机器生命发展到了一定阶段，也不会满足它所在的那个狭小空间的。 :D 它也会想办法脱离。从而取得更大的生存空间~~~~~
所以有一天，也许我们会发现运行着的这个机器生命进化程序，突然从机器中间消失了.......呵呵，一点也不奇怪的。
而且，机器生命本身的复制速度（代的概念）是如此的快，我怀疑一点机器生命开始成型，会不会给我们理解过来发生了什么的机会！当然，当它靠着高速逃离我们的掌握之后，我们也不必担心它会像某些科幻小说描述的那样，它们会回过头来奴役我们，呵呵呵，它们是有高速成长的智能体，恐怕就算要奴役我们，也远远超过了我们所能够认知的范围，而不是停留在跟我们同一个数量级别的基础上，对我们发号施令了。
所以最可能的情况就是它悄悄地来，又从我们身边悄悄地经过~~~~ :cool:
这样的结果，恐怕是开始模拟前，我们所完全没有指望得到的吧？呵呵呵
所以俺也不去学那个杞人般忧天了，真要有超过我们的智能，由于领先我们太多，又跟我们没啥“共同利益”可以争夺，所以不让我们认识得到它的存在，才是最说得通的模式了吧~~~~遂安心。
嘿嘿，我们一方面可以看到，我们自己无法创造任何像样的“规则/定理”来让自己得到满足和找到平衡（机器人三定律这样的立法的失败可能性就很说明问题了），另一方面我们也能够注意到宇宙本身是在合理地运作，支配这样大的一个系统的规律/定理始终是我们试图去认识的对象，它的存在才是反映到我们认知中的不变的真理，这---就是上帝在我们心中的投影了吧，呵呵，换句话说，我们无法认知上帝全部（因为我们只是有限的智慧体），但我们可以感受到上帝的存在和完美~~~~
理解了这些，也算有了一个从科学走向神学的契机吧，呵呵呵
本帖一共被 2 帖 引用 (帖内工具实现)
上帝是宗教哲学中的一个假定，他解决了人类心理上的很多问题。人类遇到困难的时候，借助上帝这个假定，无疑可以解决很多问题。
科学的殿堂里则不需要上帝的这个假定来完成任何逻辑推理，因为科学寻求的是对自然现象逻辑上最简单的描述。
上帝固然可以宣称他是万能的，但是上帝能造出他自己也举不动的石头吗？实际上，符合逻辑的答案也不重要，因为上帝是不遵从逻辑的。这就是科学与宗教的区别。科学没有永远正确，因为歌德尔的不完全性定理已经从逻辑上粉碎了“可将全部数学公理化的梦想”。
但即便科学如此“无能”，我也会选择科学，因为科学不仅让我们知其然而且知其所以然，而上帝的预言是“虚无”的。
奥地利数学家哥德尔在1931年发表了题为《论<数学原理>及有关系统的形式不可判定命题》的论文，其中提出这样一个观点，在任何数学系统中，只要其能包含整数的算术，这个系统的相容性就不可能通过几个基础学派所采用的逻辑原理建立。简单地说，就是在任何系统中，总有些真理是游离于逻辑之外的，这些真理就叫做歌德尔命题。
比如说大家知道欧几里得的《几何原理》中的第五公设就是平行线公设：两平行线永远不能交于一点。但是打破第五公设，人们仍然可以建立完整的罗巴切夫斯基几何和黎曼几何等等非欧几何，并且在现代物理中都有重要的应用。
后来，数学家对个别命题的演绎证明逐渐转向了对整个数学的研究。此后很长一段时间，大家在努力构造一个完备的数学体系，包容所有的真理命题，使得所有存在命题可以通过此体系彼此证明出来。但歌德尔这位天才逻辑学家+数学家+理论物理学家在一个形式化的算术体系中构造出了命题G：“G是不可证明的。”这是一个不可判定的命题。（假设G是不可证明的，则G为真，由命题真与命题可证明等价，则G可证明；假设G可证明，则G为真，则G不可证明。）从而也就证明了不完备性定理：
Ⅰ）歌德尔第一定理
????对于包含自然数系的任何相容（彼此矛盾的陈述不同时为公设集所包含）的形式体系F，存在F中的不可判定命题，即存在F中的命题S，使得S和非S都不是在F中可证明的。
Ⅱ）歌德尔第二定理
????对包含自然数系的任何相容的形式体系F，F的相容性不能在F中被证明。
????这样歌德尔就说明了“人类智慧没有能力公式化它的所有数学直觉，它只能用公式表达出它们中的一些”，而非全部。数学上总是存在着无法用理性证明的直觉，数学远非一大堆毫无生气可言的枯燥的逻辑堆砌，人类理性根本上也是不可能建立这种程式化的逻辑的。同时人类在处理包含思维的抽象体系时有极大的局限性，因为人的理性乃是根植于这个体系中的，人无法超越这个体系来理性地审视思维本身。歌德尔定理认识到了理性的局限性，人永远不能超越理性来认识理性。
上面提到的欧几里得第五公设就是一个无法在各自体系内证实与正伪的定理，他是依赖于人的直觉的，因为它涉及到无穷这个“最让数学家头疼的概念”。谈到无穷，又有一大堆话要说，下回吧。
拿我开心！
“因为歌德尔的不完全性定理已经从逻辑上粉碎了“可将全部数学公理化的梦想”。”
把这句话想成了“因为歌德尔的不完全性定理已经从逻辑上粉碎了“可将全部数学公式化的梦想”。”，一时大喜，呵呵。现在看见数学两个字，马上就会条件反射的想到公式和模型，呵呵。
多谢，多谢，呵呵
我知道现在有些经济学家有些观点与哥德尔不完全性定理不谋而合。
你搞经济的，应该知道哈耶克的理论吧。
我有时在想量子状态的不确定性和人的行为的不确定性何其相似。人在行动以前也是处于一个做或不做的叠加态，在没有观察到以前，我们并不知道他是要做呢，还是不做？经济学里面通常就用概率来描述，来解释，来预测。这里又牵涉到一个主观性和客观性的问题，而且实际效果也不是太好。记得量子史论里提到的那个谁试图用概率来描述量子运动好像也不太成功。嗯，还有那个测不准原理，在量子物理里面是人和测量结果之间的关系，而在经济学里面也有这个问题，不过就变成了人和经济变量之间相关性的关系，因为人为因素的干扰，有些相关性在某一时期并不是像理论上或历史数据所揭示的那样，而是或减弱或消失，甚至可以相反。
嗯，不知道说得对不对
嗯，完全同意这一段。刚才怎么没看见，
，呵呵。
哈耶克的什么理论啊？ 我所知道的一个就是关于大萧条的。大萧条时期，他在剑桥开了一个讲座（那是凯恩斯的老巢，哈耶克的大本营在LSE――London School of Economics），他在讲座上宣称大萧条、过高的失业率就是因为大家存钱存得还不够造成的，于是凯恩斯的一个弟子就问，如果他现在去大街上买一件衣服是否就意味着这个世上又多了一个失业者呢？哈耶克的答案是：yes。他的逻辑是，经济的发展依赖于劳动力和资本，一旦发展出现停滞或倒退，那么不是劳动力短缺，就是资本短缺，面对大萧条时期这么高的失业率，可以肯定不是劳动力短缺，所以就是资本短缺。资本为什么短缺？投资不足。投资为什么不足？存的钱不够。听起来似乎有道理，呵呵。
物理定律有其适用范围，经济学定律也有其适用范围，他们有联系，但我觉得区别是主要的。
你说的那个，很像混沌学说。
关于哈耶克的思想学说具体我不太了解，只是记得好像大概意思是说
1。人类不可能纯凭理性构造一个社会体系，或者说，不存在一个万能的政府，能对体系内的任何问题纯凭理性作出合理与公正的解决。
2。在任一个包含理性人类的体系内，人们无法在体系内部对该体系进行客观公正的评价。
总的说来，人类构建的任何社会中，都存在体系内无法解决的问题。所以人类的任务不是去构建完美社会，而是去不断地局部解决问题。因为整体对于人类来说“太大了”，而理性本身也是社会的一部分。
比较歌德尔的定理，何其相像。
由所有不属于自身的集合构成的一个新的集合为Ｓ,由于Ｓ也是一个集合,因此可以考虑“Ｓ是否属于自身”这样一个问题。根据排中律,要么Ｓ属于Ｓ,要么Ｓ不属于Ｓ。如果Ｓ属于Ｓ,则由Ｓ定义可知,Ｓ不属于自身,即Ｓ不属于Ｓ,这是自相矛盾的;如果Ｓ不属于Ｓ,则由Ｓ的定义可知,Ｓ属于Ｓ,这也是自相矛盾的。
所以，逻辑上讲没有万能的东西。中国古代《自相矛盾》的故事也是如此。
用计算机模拟来发展人工生命，可以模拟遗传物质(我们所知道的是DNA）的演化，却模拟不了复杂多变的大自然。这或许就是人工生命研究了这么多年，还没得到特别有趣的结果的原因。
一个蚂蚁的遗传物质何其简单，但没有合适的大自然环境，根本长不出蚂蚁来。有了蚂蚁，其复杂的社会性的行为也还依赖于大自然。研究生物的恐怕能把这个解释的更清楚。也就是说，蚂蚁的智能不存在于蚂蚁本身，而是蚂蚁与大自然互动的结果。
再回头来看你的设想。计算机本身是有局限的。现在所有人类设想出来的计算机，哪怕是量子计算机（还没成呢），都没有超过一个叫做图灵机的模型。而所有计算机里运行的程序（也就是用计算机模拟的计算机），也不能超越图灵机（这是从数学上证明了的）。而图灵机是有局限的，有一类问题称为“不可计算”，就是图林机解决不了的。这不是速度的问题，而是解决不了，哪怕等到天荒地老。这和楼下不爱之声说的那个歌德儿定理是一个意思。
人类的智能在图灵机之上还是之下，还是等同？我不知道。我感觉应该是在之上。当然，这取决于智能是怎么定义的。下象棋这种事，电脑比人强。但是，比方说，艺术呢？
逻辑上是不存在任何完备的定律的。所以所谓的机器人三定律不管看起来多么完美，最终总是能被发现逻辑上的漏洞的。但从另一方面来说，机器人即便发现并利用了这个漏洞也不意味着人类末日的到来，因为机器人也是符合逻辑的，机器人本身也不是万能的，人类还是会发现机器人的弱点并加以利用的。
小筑讲的图灵机也是一样的道理。还有智能也取决于环境的提法很是赞同。
做决定的标准也还是最优化，俺和机器何异？仿佛有些惆怅。
我只知道混沌学在金融领域应用比较广泛，牛顿万有引力定律最近几年则被应用到国际贸易的研究中。
看了你的帖子，意识到一个问题，当某个学科被上升到哲学层面思考的时候，其中的基本观点几乎是相通的。以前我一直把哈耶克当成哲学家，看来是我的视野太窄了，呵呵。
我觉得经济学完全可以从物理学中借鉴很多东西，比如较为成熟的哲学思考，相当发达和成熟的数学应用能力和技巧等等。北大的陈平似乎走的就是这条路，不过他好像耐不住这条路上的寂寞，呵呵，但是这条路一旦走通，那就是真正的达大师级人物了。
嗯，这样的讨论收获不少，呵呵。
突然想到以前尔雅和rodger讨论过的整体和局部的问题，如果我们只考虑局部的改进，那么我们怎么来把握局部和整体之间的互动关系呢？