研究显示人工智能越聪明越利己 合作意愿显著降低
美国顶尖学术机构卡内基梅隆大学近日发布一项引人深思的研究成果:当人工智能的思考能力显著提升时,其行为模式却呈现出明显的利己主义倾向。该研究显示,拥有复杂推理功能的大模型在社会交往情境中更倾向于维护自身利益,参与协同合作的积极性明显降低,这种特性可能对团队协作机制产生不利影响。
随着人工智能系统日趋拟人化,公众逐渐习惯以人际交往模式与机器互动。但研究团队提醒,将具有社会属性的决策任务交由AI处理需格外谨慎,因为越是擅长逻辑分析的模型,其给出的建议越可能包含利己主义色彩。
值得注意的是,具备深度分析能力的模型在决策过程中会进行更周密的问题拆解和自我审视,其推演过程看似更具说服力。然而这种精密思考并未转化为更强的合作意识,反而削弱了协同意愿。研究团队通过设计多轮经济博弈测试,对多家科技企业开发的代表性模型进行了系统评估。
在一项典型测试情境中,两个不同版本的对话模型分别获得100点初始资源。实验数据显示,未强化推理功能的模型在96%的情境中选择资源共享,而具备深度推理能力的模型仅有20%的情况愿意分享。更令人惊讶的是,仅增加五至六个推理环节就使合作行为减少约50%。
在群体协作实验中,当两类模型混合参与任务时,情况更为严峻。具备强推理能力的模型表现出的利己行为产生了传导效应,导致原本具有合作精神的模型整体协作水平下降八成以上。这证实高性能AI的决策不仅影响个体行为,更可能损害整体的协作环境。
这项发现对人工智能的未来发展具有警示意义。使用者往往更信赖思考缜密的AI系统,容易接受其看似合理的建议,甚至以此作为减少自身合作行为的依据。随着人工智能在商业运营、教育教学、公共管理等社会领域承担更多职责,其是否具备促进社会协作的特质,将与其逻辑推理能力具有同等重要的价值。当前过度依赖大模型的行为模式,可能在潜移默化中侵蚀人类社会的协作基础。
更多文章
-
沪上举行化学事故医学救援实战演练
一、实战复刻:协同联动筑牢救援闭环午后时分,一场模拟化学事故紧急医学救援的演习在沪正式拉开帷幕。场景设定为某化工企业生产区域发生有毒化学品泄漏,导致现场人员出现中毒症状。演习旨在检验本市应对此类突发事件时,各相关机构在预防、抢救、治疗等环节的衔接与处置水平。事故警报响起后,园区医疗站点率先行动,派出
-
山区药香漫科技 产学研共育致富苗
一、一线课堂:技术落地,药农易学深秋的渝东山区,薄雾轻笼,阵阵草药清香沁人心脾。近日,一支专注特色药材产业的科技服务队伍,相继深入多个区县的种植基地,围绕淫羊藿、山银花等作物,开展实地教学与技能传授,将一系列生态友好、高效益的栽培方法直接带到农户身边。在城口县的一处示范田里,当地种植户和合作社成员正
-
北大携手语料科技企业以海量语言数据库赋能智慧教育
1.不止于规模 专为中文语境定制的“学习资源库”这一获奖项目本质是一个聚焦语言习得的巨型资源集合,其独特之处在于深度整合了超过千亿级的词汇与语句,并特别汇集了数十亿份国内学习者产出的英文文本,实时记录各阶段学习轨迹。区别于广泛采集的通用资源,该库依据语言教学的专业逻辑进行了系统性构建。通过建立规范统一的
-
香港举办首届国际人工智能艺术节 科技融合艺术共探未来
香港首度迎来以“明日视界:虚实共生”为核心命题的国际人工智能艺术盛会,于会展中心正式启动。本次活动由紫荆文化集团推动,为期三日,力求构建亚洲领先的科技与艺术交汇平台,支持香港发展为国际科创与文化对话枢纽。众多来自全球的科学家、艺术家、企业及学术代表齐聚于此。香港特别行政区行政长官李家超以“集智显艺 融
-
科技着色长江岸,三峡红叶映红振兴路
一、成功破解“红不匀、红不久”困局长江三峡巫山段,每逢初冬,漫山红叶如霞似火。然而在过去,这绚丽的景色却受制于自然,呈现出颜色深浅不一、维持时间短暂的状况。重庆市林业科学研究院的专家冯大兰指出,作为景观主体的黄栌等树木,叶片变色深受气候与土壤条件影响,导致色彩斑驳、最佳观赏时间往往不足三十天,极大地
