五千年(敝帚自珍)

主题:究竟是人不守序了?还那个序人不该守? -- 给我打钱87405

共:💬42 🌺83
全看分页树展 · 主题 跟帖
家园 关于波音事故

说一点比较遥远的事,可能那会我们这些已经不在人世了。

波音事故终于启发了我:未来的人类将面临怎样的命运。

波音事故的缘由被媒体简单的描述成“人机互相不理解”——我的看法是,本质是权限。

我们不如把人工智能当成另一个人类,一个粗鲁的人类。当机长说:现在由我控制飞机,那个粗鲁的人类却说:这里轮不着你说话,这里我说了算。

于理说,人类始终掌握最高极限,赋予人工智能的权限可以随时收回来。科幻小说里则经常想象人工智能欺骗了人类,夺取了最高权限。这些科幻让人感到恐惧……但是我认为,真正的恐惧并非如此,而是有一些人始终无法获取高于人工智能的权限

这次波音事故的真正原因可能是,机长并没有最高权限——完全控制AI,最高权限可能在地面指挥那里。

我并不是要去论证这次波音事故到底怎样,我是说,它给了我一个启发。

比如,有一辆AI轿车,最高权限在父母那,但平日里孩子使用——完全有可能出现“人机互相不理解”的情况。

但这并不是最恐惧的。

简单来说,如果把AI当成是一次革命,那么这革命的胜利果实完全有可能被一小撮人窃取

全看分页树展 · 主题 跟帖


有趣有益,互惠互利;开阔视野,博采众长。
虚拟的网络,真实的人。天南地北客,相逢皆朋友

Copyright © cchere 西西河