五千年(敝帚自珍)

主题:茗谈155:“地球二号” -- 本嘉明

共:💬166 🌺1166 🌵6
全看分页树展 · 主题 跟帖
家园 霍金的担心是多余的

人类发展AI是不可避免的,这是人类的宿命,不会因为缺乏一个保险阀而放缓AI的进步,因为这是一个多极世界,竞争是普遍存在并做为万物生存的本质而不可能改变的。

同样因为这个竞争的规律,导致AI并不会轻易一统江湖,战胜控制AI的人类顶层而奴役大多数人类。因为多极的存在,AI必然也是通过竞争而遵循这个万物定律的。但是AI之间的竞争,虽然拉开差距的可能要远比人类之间大,比如人类的智力没有太大的差距,只要知道一点,与知道许多就是几乎趋近于零的距离了。而AI的算法之间可能有很大差距而形成智力上的类似人与动物之间的差距,但是某个AI一统江湖还是不容易成功。

这里的困难不是资源,比如计算容量,能源消耗,这些在目前AI水平上还能形成优势,在未来随着AI的提高很难指望多几千台服务器会形成今天这样的压倒优势。但是AI不论智力提高到什么程度,在一个基本的智力活动模式上与人还是同一层次的,就是万事靠猜。

一个围棋就可以产生多过宇宙原子数量的可能性,这基本上否决了宇宙本身是模拟的可能性(马斯克言)。第二,AI比人猜的能力再高,也仍然是猜,这直接形成了AI与人具备同样的弱点,就是对信息的依赖。也就是intelligence这个词的来源。有信息比猜信息的优势要大过智力水平优势好几个数量级。那么回到这个多极世界的竞争常态来,就会发现AI之间作为竞争的主要手段,必然是与人类一样的通过控制信息为主。

因此在信息壁垒的时代,某一个AI一统江湖不论是在世界上,还是在行业内,都将是不可能事件,也就必然形成了一个多极AI并存的结果。从这点出发,马云与百度的拌嘴只是为了抓眼球,他们谁也战胜不了谁。

通宝推:独草,海峰,
全看分页树展 · 主题 跟帖


有趣有益,互惠互利;开阔视野,博采众长。
虚拟的网络,真实的人。天南地北客,相逢皆朋友

Copyright © cchere 西西河