主题：【原创】从《I, Robot》的话题谈俺对机器生命的认识 -- 你克我服

首先，你的问题空间是稀疏问题空间，也就是说，并不是所有的随机组合都能构成有意义的逻辑。换个通俗的说法，一个有意义的序列，在发生任意一个孤立的变异之后，将变得没有意义。也就是你通常遇到的文件损坏，无法运行。所以能够繁殖下去的变异必须是从一个有意义的序列跳跃到另一个有意义的序列。我们定义两个序列之间的差异为"距离"，并假设最近的两个有意义序列的距离为10。也就是说一段有意义的代码和另外一段有意义的代码有10个不同的字节。

其次，我们假设你的变异概率为千分之一。也就是平均每拷贝1000个字节，出错一个字节。（按这种变异几率，你根本没办法拷贝任何文件了）。

最后，我们假设从最初的序列代码到最终的超级智能代码之间间隔是100步。（也就是说你最初的序列代码和最终的序列代码的差距只是1000个字节，这根本是不可能的）

这样我们可以得知：

每次复制从一个代码变异到另一段代码的可能性小于1000^10分之一。

你能顺利走完这100个代码序列达到终点的可能性小于(1000^10)^100=10^3000分之一。

假设你的计算机每秒复制1万亿次，也就是10^12.

假设从宇宙大爆炸起就开始运算，到现在可以复制5×10^17×10^12<10^30次。

因此，通俗的说，你的这种担心，大概是发生10^2970次宇宙大爆炸之后才可能发生。

你会发现问题实际上出在编码上。单个编码信息量太低，需要提高单个编码的信息量。换句话说，让你的空间变得不是那么稀疏，才能大大提高变异遗传的效率。这句话，说出来容易，做起来难。针对通用智能的编码，现在也没有任何可以实质性入手的地方。这也是为什么，目前对人工智能的研究都是在功能性层面。

再次回到你的所谓有限资源竞争。演化的结果是适者生存，而不是优胜劣汰。也就是最合适环境的才有可能生存。地球如果发生巨变，最有可能生存下来的是那些低等生物。有限的资源并不能约束出优秀的结果，而是那种只需要很少资源就能完成基本繁殖和生存需要的结果。火星的资源够有限吧，可那个地方最多也就是可能有些细菌存在。因此，你必须以一个评估函数来评估变异，而不是仅仅依赖有限的资源。可是，就像我们说的，目前你根本定不出这个函数。

再次，郑重推荐How Brains Think：Evolving Intelligence一书。