逾百名专家联合呼吁优先研究 AI 意识,确保人工智能不会“受虐”
创始人
2025-02-07 18:51:56

IT之家 2 月 6 日消息,据《卫报》当地时间 2 月 3 日报道,一封由包括斯蒂芬・弗莱在内的人工智能专家和思想家签署的公开信警告称,若 AI 技术得不到负责任的开发,具备感情或自我意识的 AI 系统可能面临被伤害的风险

超过 100 位专家提出了五项原则,旨在指导 AI 意识研究,随着技术的迅速发展,越来越多的人担心,某些 AI 系统可能会被认为具备感知能力。

这些原则包括:

  • 优先研究 AI 的意识,确保不会导致“虐待和痛苦”

  • 对发展具备意识的 AI 系统进行约束

  • 逐步推进AI 系统的研发;

  • 公开分享研究成果;

  • 避免做出误导性或过于自信的声明,特别是创造具备意识的 AI

公开信的签署者包括伦敦大学的安东尼・芬克尔斯坦等学者,以及来自亚马逊、WPP 等公司的 AI 专家。

这封信与一篇研究论文一起发布,论文中指出,具备意识的 AI 系统可能在不久的将来被开发出来,或者至少是表现出具备意识的特征。

研究人员表示:“可能会创造出大量具备意识的系统,这些系统可能会遭受痛苦。”如果强大的 AI 能够自我复制,可能会诞生“大量需要道德考虑的新生命体”。

该论文由牛津大学的帕特里克・巴特林和雅典经济与商业大学的西奥多罗斯・拉帕斯共同撰写,强调即使公司没有刻意研发具备意识的 AI 系统也应制定相应的指南,以应对“无意中创造出有意识实体”的风险。

论文承认,关于 AI 是否能具备意识,学术界存在广泛的不确定性,但它认为这是一个“不容忽视”的问题。

论文还提出,若 AI 系统被定义为“道德病人”—— 即在道德上“独立存在且值得关注的实体”,那么摧毁这一系统是否就等同于杀害动物,这一问题值得深思。

这篇论文已发表于《人工智能研究》期刊。它还警告,错误地认为 AI 系统已具备意识,可能会导致政治资源的浪费,使得不切实际的福祉推广工作被展开。

据IT之家了解,去年曾有一些资深学者预测,到了 2035 年,部分 AI 系统具有意识并具有“道德意义”的可能性是现实的。

2023 年,谷歌 AI 项目负责人德米斯・哈萨比斯曾表示,目前的 AI 系统“绝对”没有感知能力,但未来很可能具备。

他在接受美国 CBS 采访时表示:“尽管哲学界尚未对意识达成共识,但如果我们指的是自我意识之类的特质,那么我认为 AI 未来有可能具备。”

相关内容

热门资讯

【玩家实测】天天大安麻将外挂辅... 您好,天天大安麻将这款游戏可以开挂的,确实是有挂的,通过微信【8198015 】很多玩家在这款游戏中...
【玩家实测】大象福建麻将外挂辅... 您好,大象福建麻将这款游戏可以开挂的,确实是有挂的,通过微信【29290261】很多玩家在这款游戏中...
【玩家实测】哈哈江苏麻将外挂辅... 您好,哈哈江苏麻将这款游戏可以开挂的,确实是有挂的,通过微信【29290261】很多玩家在这款游戏中...
【玩家实测】口袋广丰棋牌外挂辅... 您好,口袋广丰棋牌这款游戏可以开挂的,确实是有挂的,通过微信【8198015 】很多玩家在这款游戏中...
【玩家实测】达达麻将外挂辅助器... 亲,达达麻将有的,ai轻松简单,又可以获得无穷的乐趣,达达麻将是你和朋友度过闲暇时光的不二选择,赶紧...
【玩家实测】天天闲乐外挂辅助器... 无需打开直接搜索微信:天天闲乐有挂吗本司针对手游进行,选择我们的四大理由:1、软件助手是一款功能更加...
【玩家实测】捕鱼大决战外挂辅助... 【玩家实测】捕鱼大决战外挂辅助器脚本(分享必胜辅助插件)新版已更新是一款可以让一直输的玩家,快速成为...
【玩家实测】山西麻将外挂辅助器... 【玩家实测】山西麻将外挂辅助器脚本(分享必胜辅助插件)新版已更新是一款可以让一直输的玩家,快速成为一...
【玩家实测】友乐麻将外挂辅助器... 【玩家实测】友乐麻将外挂辅助器脚本(分享必胜辅助插件)新版已更新是一款可以让一直输的玩家,快速成为一...
【玩家实测】闲游娱乐外挂辅助器... 您好,闲游娱乐这款游戏可以开挂的,确实是有挂的,通过微信【8198015 】很多玩家在这款游戏中打牌...
【玩家实测】云麻圈外挂辅助器脚... 亲,云麻圈有的,ai轻松简单,又可以获得无穷的乐趣,云麻圈是你和朋友度过闲暇时光的不二选择,赶紧来尝...
【玩家实测】微友娱乐外挂辅助器... 本篇文章给大家谈谈怎样看出微友娱乐开挂开挂没,以及微友娱乐怎么看出来是开挂对应的知识点,希望对各位有...
【玩家实测】弘发外挂辅助器脚本... 无需打开直接搜索微信:弘发有挂吗本司针对手游进行,选择我们的四大理由:1、软件助手是一款功能更加强大...
【玩家实测】丫丫诗词外挂辅助器... 【玩家实测】丫丫诗词外挂辅助器脚本(分享必胜辅助插件)新版已更新是一款可以让一直输的玩家,快速成为一...
【玩家实测】科乐斗地主外挂辅助... 您好,科乐斗地主这款游戏可以开挂的,确实是有挂的,通过微信【8198015 】很多玩家在这款游戏中打...
【玩家实测】来趣广西麻将外挂辅... 您好,来趣广西麻将这款游戏可以开挂的,确实是有挂的,通过微信【8198015 】很多玩家在这款游戏中...
【玩家实测】新老友广西麻将外挂... 本篇文章给大家谈谈怎样看出新老友广西麻将开挂开挂没,以及新老友广西麻将怎么看出来是开挂对应的知识点,...
【玩家实测】奇迹棋牌外挂辅助器... 无需打开直接搜索微信:奇迹棋牌有挂吗本司针对手游进行,选择我们的四大理由:1、软件助手是一款功能更加...
【玩家实测】双辽麻将外挂辅助器... 本篇文章给大家谈谈怎样看出双辽麻将开挂开挂没,以及双辽麻将怎么看出来是开挂对应的知识点,希望对各位有...
【玩家实测】明月千里外挂辅助器... 亲,明月千里有的,ai轻松简单,又可以获得无穷的乐趣,明月千里是你和朋友度过闲暇时光的不二选择,赶紧...
【玩家实测】闲趣龙岩麻将外挂辅... 【玩家实测】闲趣龙岩麻将外挂辅助器脚本(分享必胜辅助插件)新版已更新是一款可以让一直输的玩家,快速成...
【玩家实测】闲来贵州麻将外挂辅... 【玩家实测】闲来贵州麻将外挂辅助器脚本(分享必胜辅助插件)新版已更新是一款可以让一直输的玩家,快速成...
【玩家实测】泸州大贰外挂辅助器... 您好,泸州大贰这款游戏可以开挂的,确实是有挂的,通过微信【29290261】很多玩家在这款游戏中打牌...
【玩家实测】汕尾联友外挂辅助器... 您好,汕尾联友这款游戏可以开挂的,确实是有挂的,通过微信【29290261】很多玩家在这款游戏中打牌...
【玩家实测】扎西茶楼外挂辅助器... 【玩家实测】扎西茶楼外挂辅助器脚本(分享必胜辅助插件)新版已更新是一款可以让一直输的玩家,快速成为一...
【玩家实测】JJ麻将外挂辅助器... 无需打开直接搜索微信:JJ麻将有挂吗本司针对手游进行,选择我们的四大理由:1、软件助手是一款功能更加...
【玩家实测】诸暨翻财神外挂辅助... 【玩家实测】诸暨翻财神外挂辅助器脚本(分享必胜辅助插件)新版已更新是一款可以让一直输的玩家,快速成为...
【玩家实测】黄骅麻将外挂辅助器... 无需打开直接搜索微信:黄骅麻将有挂吗本司针对手游进行,选择我们的四大理由:1、软件助手是一款功能更加...
亚洲市场成奔富葡萄酒最大“金主... 每经记者|温梦华 每经编辑|肖芮冬 8月13日,富邑葡萄酒集团(以下简称富邑集团)交出了2025财...
石头科技半年报:营收79.03... 来源:新浪科技 新浪科技讯 8月15日下午消息,石头科技发布半年报显示,今年上半年公司实现营收79....