五千年(敝帚自珍)

主题:关于人与计算机不同思考方式和机器人对人类威胁的一些感触 -- 桥上

共:💬31 🌺113
全看分页树展 · 主题 跟帖
家园 自主,和欲望感情搅在一起觉得有些不相关

我觉得自主或许分这么几个阶段:

1 给定外部条件,确认信息全面准确,给定规则,根据规则自己决定怎么干。这个alphago已经干得很好了

2 给定外部条件,给定规则,但不能确认信息全面准确。计算机需要根据不完备的信息决策到底怎么干

3 给定目标,计算机自主制定规则,自主根据所获取信息决定咋干。这时候计算机就已经能威胁人类了,如果没有阿西莫夫的三定律这样的最初约束

4 计算机自主确定目标,自主确定规则,自主探索发现新的原理。这就和人类没有区别了

通宝推:桥上,
全看分页树展 · 主题 跟帖


有趣有益,互惠互利;开阔视野,博采众长。
虚拟的网络,真实的人。天南地北客,相逢皆朋友

Copyright © cchere 西西河