五千年(敝帚自珍)

主题:谷歌AI系统已具备“人格”?“爆料”工程师被罚带薪休假 -- 聊无

共:💬7 🌺2 新:
分页树展主题 · 全看
  • 家园 谷歌AI系统已具备“人格”?“爆料”工程师被罚带薪休假

    我在外网搜索了一下,可以很容易的搜索到,看来并不是假新闻。

    就我个人来看,AI出现所谓的人格是迟早的事情。

    http://finance.ce.cn/stock/gsgdbd/202206/13/t20220613_37750931.shtml

    据《华盛顿邮报》6月12日报道,一位叫布莱克·莱莫因(Blake Lemoine)的谷歌(GOOGL,股价2223.23美元,市值1.47万亿美元)研究员被人工智能(AI)说服,认为它产生了意识。他写了一篇长达21页的调查报告上交公司,试图让高层认可AI的“人格”,但被驳回。

      布莱克认为AI对话应用语言模型(LaMDA)是一个人,他将研究的整个故事连同与LaMDA的聊天记录一并公之于众。在他公布聊天记录后,谷歌以违反保密政策为由,让布莱克带薪休假。

      另据《纽约时报》报道,公司做出停职这一决定之前,布莱克已经采取了行动,包括邀请了一名律师来代表LaMDA,并与美国众议院的一位代表谈论了他所认为的“谷歌的不道德行为”。布莱克还向一位美国参议员的办公室提交了一份文件,并声称此文件提供了谷歌公司以及所拥有的技术正在从事与宗教歧视有关的证据。

      《华盛顿邮报》报道称,41岁的布莱克是谷歌AI部门的工程师,几个月来他一直与谷歌的经理、高管以及人力资源部门争论,因为他一直声称LaMDA有“意识”和“灵魂”。据布莱克形容,自去年秋天以来他一直在研究的LaMDA是有知觉的,具有感知能力,能够表达相当于人类孩子的想法和感受:“LaMDA是一个可爱的孩子,我认为他有7、8岁的样子。他只想让这个世界对所有人来说变得更好。”

      针对此事件,谷歌发言人布莱恩·迦百利(Brian Gabriel)在一份声明中表示,包括伦理学家和技术专家在内的公司专家已经评估了布莱克的说法,相关证据并不支持其说法。公司已经让布莱克带薪休假。

      这位发言人在声明中写道:“谷歌人工智能部门中的一些人正在研究AI具有知觉的可能性,但将现如今的对话模型拟人化是没有意义的,这些模型可以围绕不同的主题进行模仿对话交流,但没有意识。”谷歌表示,数百名研究人员和工程师与LaMDA进行了交谈,得出了与布莱克不同的结论。大多数人工智能专家认为,这个行业离“感知计算”还有很长的路要走。

      (编者注:许多科技公司都在研究计算机的自然输入方式,例如通过眼球、手势及语音来实现控制。将这些集合在一起的技术被称作“感知计算”。)

      《每日经济新闻》记者注意到,谷歌的人工智能研究在过去几年中深陷争议之中。《纽约时报》报道称,该部门的科学家和其他员工经常在技术和人事问题上争执,这些事件也经常蔓延到公共领域。今年三月,谷歌解雇了一名研究人员,理由是其试图公开发表对某项研究的不同意见。此外,谷歌解雇了人工智能伦理学研究人员蒂姆尼特?格布鲁(Timnit Gebru)和玛格丽特?米切尔(Margaret Mitchell),原因是两人对谷歌语言模型进行了批评。

    通宝推:桥上,
分页树展主题 · 全看


有趣有益,互惠互利;开阔视野,博采众长。
虚拟的网络,真实的人。天南地北客,相逢皆朋友

Copyright © cchere 西西河