五千年(敝帚自珍)

主题:【原创】【讨论】征集图灵测试题目 -- 任爱杰

共:💬76 🌺268 🌵3
全看树展主题 · 分页首页 上页
/ 6
下页 末页
家园 这说的其实是价值

差异=专向=喜好=价值。而这主要是社会中各种因素的产物。

设备和软件,是功能决定的,功能就是需求,需求也就是价值。

然后我们来到了机器人问题的核心,他能不能自己给自己价值?

如果能,那么图灵机的基本预设就失效了。因为这意味着它可以自行检验自己的智能,而不需要外部给予和确定。

以社会为背景,自定价值+因缘际会=不同的发展。进而也就带来多样性,并且形成种群。

可惜图灵机的基本设定就决定了不可能出现这种人工智能😋

家园 自己看不见还要怪别人

交接成本意味着左手倒右手(自己跟自己)也是有成本的。

而且这是标准的交易成本经济学定义,哪来的自己发明。

就不继续这些没有营养的瞎扯了,哪怕是回复也是在荼毒版面。

家园 请教一个简单问题

你把一个馒头从你的左手交到右手,算交易吗?

家园 我觉得这个设定可能未必准确

谁知道呢

家园 这是现代计算机的基础,没办法

其实人类也不是都能明白价值是什么的,也会有机械唯物,就别说机器了。

家园 意识是二合一,所以才麻烦。

意识结构,就是知名驳论“变是不变的吗?”这意味着要么是俩主体,要么这是在瞎说。然而人正是如此。一方面,人可以随时定义自己为一个事实,另一方面人随时都在变化,你很难保证之前的定义是对的。

佛教这样说,就是因为人随时都在变化,不能固定,是因缘际会的产物,所以我不存在。但就算是变化也总得有个东西盛吧?否则你怎么知道他变化了?这就是佛教的核心悖论,连续出现六个反对都没解决的问题。从原始到大乘,从反对我有、四大实有、现在实有,再到反对法有、自性实有、特性实有,无非是换了个层级,一级一级倒推而已,总得有个东西来盛“我”,从无变成“有”。

机器人被认为有人工智能的可能,一方面是忽略了图灵机的基本设定,一方面是因为函数式编程可以做到自指。也就是一个程序本质上是可以进行自我迭代和更新的。我们可以在机器学习中看到。这样就很像人类,一方面是变化的,一方面作为一个主体是不变的。

只是这样,并不能够解决问题。这的确是人类的意识结构,但人类的意识结构不是简单的主观和客观,还有事实和价值。事实是可以逐步确定,逐步接近的。但是事实的标准谁来提供?毕竟没有标准你怎么确定你接近呢?机器人没有这个能力,图灵机导致他只能通过人类设置标准来实现智能。也就是大家戏称的一入调参深似海。

这还没说价值是什么,因为真正主体不变,而内容在变的东西,恰恰就是价值。我们可以固化到一种基本事实。比如,你需要吃东西,每天都需要吃。但你每天所需要的可能都不一样,比如昨天出门奔波,吃得多。今天在家休息,吃得少。由于它是一个事实,只要机器人掌握了很容易可以实现。

但如果你因为某些原因不吃东西呢?作为士兵完成任务,作为胖子想要减肥。身体上的需要还在,你为什么会无视这一事实呢?而任务或者减肥,就是价值。至少对这个层面如此。机器是不会有这种想法的,除非你事先写进算法。而我们是可以随时写进我们的意识的,不需要任何人。只要你想。

家园 应该是就怕机器学习

本质上不是从原理上解决,而是从统计上解决。

比如我们目前的实验范式,去解决一个和人有关的问题,往往是设计一个实验,去统计人群在条件A和条件B的差异(具体到这个话题,就是对某个问题人和机器人的差异),而这个统计数据被机器学习去“窃取”以后,它就会去模仿这个统计差异,而根本不关心造成差异的原因。这相当于另一种维度的三聚氰胺,非蛋白质导致的氮元素升高让测试者以为是蛋白质。破解这个的办法就是“不走寻常路”,跳出“机器学习”测试数据集去问问题。但是,这样往往也同时也失去了“标准”答案。最后走上铁手的“治站”道路:没有是否违反站规的正确答案,监察投票决定。然后机器会学习“监察的喜好”这个数据集,下一轮循环开始...

通宝推:桥上,
家园 太有同感了

每次找客服,几乎都是先花一两个小时和人工智能较劲,直到真人出现。然后重复N遍问题,不同部门转接...如你说的,很多人工“智能”唯一功能就是在劝退。以前有相声段子,“XXX请按一,...”

最可怕的是,我根本没有为避免这个做出任何努力,在花自己钱购买东西的时候几乎从未考虑客服质量。所以实际上纵容了这些现象。如果每个消费者有觉悟,凡是遇到劝退的人工“智能”,终生不消费某个品牌产品,相信很快就改善了。

家园 所以真的人其实是有统计偏差的

不知这个词用对没有,就是说真的人是各不相同的,是有各方向的差异的,倒不如机器人一致。

另外,从统计来得出结论,似乎和所谓演绎法相似,在实践中未必不合理,多数的人似乎也不会进一步去想。

家园 就像结论包含在前提里,

这好像是结果被前提所限制了,所以这种设定似乎需要改一改了。

家园 你肯定不是机器人

因为机器人会遍历所有帖子,视若无物。

家园 我们的所有结果都是如此。

移动平台,行为散乱,先行致歉。括号里的最后再看。

———

这是知识边界决定的,一切存在背后都有前提。

其实问题只是,图灵机是对人类行动的模仿,而且只是那些能够数学化、流程化的模仿。现在人类的价值如何出现,有各种学说,不仅是基因、神经、脑皮层里面会有,更关键的是有原初经验告诉我们什么是好,来确定什么是好。另一方面就是语义的确定。语言并不像某些理论说的可以还原为一个基本单位,因为连基本单位也是随着情境变动的(自带预设),除非能够统一人类的意识和语言。

楼下问意识是什么,我说的比较麻烦。其实意识结构很清楚,先秦就已明确,而计算机基本符合这个结构。人工智能也是如此,因为它本来就是对人意识过程的模拟,不确定意识是什么是不可能的。但它只是信息过程,目前的问题是价值、选择,也就是自由意志,这是人工智能不具备的。

这就导致,机器人本质上只是对人类部分行为和思维模式的思考,缺乏人类细致反应的基础,故而不可能拥有智能。直到机器人复杂到我们无法真正掌控为止。(信息过程就是外部交流信息、内部处理信息的过程,也就是输入→计算→输出。但这个过程整体是被给定的。)

———

题外:图灵测试其实基本推翻了,因为他限定在了语言上。而语言是有限的,除非是黑话,否则可以通过统计来趋近。我们只能玩黑话来对抗。

作为一个语言学民科,我们可以看看意识的基本结构,也就是语言哲学。

点看全图

不够精准,但理解够了。核心是现象那里。那基本就是现象学的说法。

意识行为=感觉材料+意识活动+意识对象。

感觉材料倾向于直观的感知形式,是最基本的经验材料。比如白马的白。意识活动倾向于相应的感知方式。比如白色要看。意识对象倾向于一个给定的概念,意味着相关的预设。比如白马的马。给予方式倾向于概念相应的框架,意味着完整的体系。比如动物知识。

其实这就是心学的「身之主宰便是心,心之所发便是意,意之本体便是知,意之所在便是物」。(比如物是我们定义出来的,所以我们可以调整定义。)

我们再来看看计算机不能完成什么部分。

感觉材料:材料输入

意识活动:算法模型

意识对象:数据类型

给予方式:系统环境

这只是大致的说法,明白即可。

比如感觉材料包括键盘、音源等常见设备,还有专门传感器等特定设备。也包括输入的各种不同类型的数据。问题是目前的处理能力有限。因为只能对专项数据进行处理,处理图像的只能处理图像,最多加上文本。综合两个以上不同类型的少之又少。

而人类是统合的,同时接受至少六感。这还是不考虑本体感受器(位置、肌肉)和机械感受器(平衡、肺部)对人类感觉的控制。同时,人类对于以上以上四者都是随时调整的。虽然材料输入已经被人类的感知形式框住,但人类还有想象力。

还有更关键的,人工智能是无法决定给予方式的。他只能决定自己的算法模型和数据类型,就像现在的机器学习能自我更新。

这样说可能有点模糊,多说一下给予方式。给予方式其实就是逻辑。就像某一学科的专业理论。他是一个完整的规则,从内部看,我们可以根据这些规则认识和判断对象。但是当规则本身出现问题的时候,人是可以对规则进行调整的,机器做不到。

在机器那里,所有的给予方式都是不可动摇的超验存在(通过人类赋予,包括系统和软件环境)。而人类可以通过理论研究让他降级为先验预设。我们既可以研究理论,也可以研究应用。还可以短时间内联系起来验证。这是目前人工智能无法做到的。他不可能一边研究操作系统或软件环境,一边研究系统应用和具体算法。而这其实就是有无相生。(这意味着人本身就是一个先验存在,至少对于意识而言如此。即存在先于本质。)

问题在于,给予方式并不是凭空出现的。他自己也有边界,要么是人类目前知识的极限,要么是人类目前价值的极限。两者往往是一回事。因为你想要这个世界能够变成稳定可以理解,必须要让某些东西固定下来,哪怕他本质上是不断变化的。也就是,必须形成一个秩序,让整个系统可以重复表现出这种秩序,而不用在意具体条件的变动。(秩序预设了系统)

单单是具体条件的变动,机器就无法实现。自指只能有限的操作,无法统合各种类型的数据,何况像人类这样跨越几千年?

这说的其实就是价值。最典型的仁义,他是因人而异、因地制宜、因时而进、因势而新的,你怎么得出什么它是什么的?这就是之前《芬奇》影评里说的善的来源问题。要么有一个超验存在,要么你可以比较得出。前者意味着什么不必多说,哪怕不是真实存在,也要求你能够自我沟通。后者意味着至少有大量机器人的说法可以比较,这等于回避了来源问题。

就别说人类目前对自己认识依然不清楚了。而机器人是人类的分有,是人类的局部,更是我们自我认识的局部。所以想要接近人类,从一开始就不可能,只能是拥有类人的表现。(何况机器还有自己的感知形式,人类不具备。)

———

简单讲,现象学其实只是意向性行为,也就是关于某物的认识。这是计算机可以做到的。真正的问题在于启明性经验,也就是价值是怎么来的。他不是固定的某物,但却可以决定物是什么,决定我们研究什么物和发展什么物。这是计算机做不到的。(这其实也是还原论和整体论之争。)

通宝推:桥上,
家园 作者都是九歌人工智能作诗系统 -- 补充帖

九歌人工智能作诗系统

点看全图

点看全图

点看全图

家园 缩减一下,就是逻辑问题。

逻辑是一个给予方式中自我封闭的关系系统。它只能证明自己能证明的,可证明的一定为真,但是真不一定能证明。前者是它所定义的真,后者是外部对象的真。也就是必须引入外部标准才有结论。

也就是说,逻辑的真实性是人决定的,等价说法就是机器人的智能是人决定的,没有人就没有智能。因为机器人只是复制了人的逻辑结构。

你能把逻辑等于你自己吗?显然不能。同样的,若机器人决定图灵测试,他觉得你是机器人,你就能把自己当机器人吗?

以上说法等价转换一下:形式系统认为你是形式化对象,你就能把自己当一个形式来生活吗?也即著名的,如何证明你妹是你妹、如何证明你是你自己?

这其实就是国家机器的问题,你只是一个对象或数字,而不是真实的生存着。越是强调形式化、强调理性的地方越是如此。比如这个说法的起点,形式化法律

这也就是有名无名不完备定理。简单讲,概念(逻辑、形式化的语言系统)只是把握现实的工具,它无法等于现实。而人工智能正是用这些东西组织起来的。想让它等于现实只能是你觉得他是

注:这也是经院哲学的误区,因为神和语言、逻辑捆绑到一起,混淆神的言语和经验实在的结果就是 语言=现实。即太初有道。这也是机械唯物主义的起源,认为精确的科学概念可以等于现实。如物理主义。所以这里的一个问题,其实是一堆问题。比如物化等于光有形式没有你了,权力源于对形式系统(名教)的掌控。这也是哲学系自以为是、古人是万物同构的根源。

家园 是的

这可能也是一个路数,群体角度,一个群体方差大,一个群体方差小,后者更大概率是机器。这个对机器来说,可能更难模拟,即在保证正确率前提下加大方差到真人水平。

全看树展主题 · 分页首页 上页
/ 6
下页 末页


有趣有益,互惠互利;开阔视野,博采众长。
虚拟的网络,真实的人。天南地北客,相逢皆朋友

Copyright © cchere 西西河