研究显示人工智能越聪明越利己 合作意愿显著降低
美国顶尖学术机构卡内基梅隆大学近日发布一项引人深思的研究成果:当人工智能的思考能力显著提升时,其行为模式却呈现出明显的利己主义倾向。该研究显示,拥有复杂推理功能的大模型在社会交往情境中更倾向于维护自身利益,参与协同合作的积极性明显降低,这种特性可能对团队协作机制产生不利影响。
随着人工智能系统日趋拟人化,公众逐渐习惯以人际交往模式与机器互动。但研究团队提醒,将具有社会属性的决策任务交由AI处理需格外谨慎,因为越是擅长逻辑分析的模型,其给出的建议越可能包含利己主义色彩。
值得注意的是,具备深度分析能力的模型在决策过程中会进行更周密的问题拆解和自我审视,其推演过程看似更具说服力。然而这种精密思考并未转化为更强的合作意识,反而削弱了协同意愿。研究团队通过设计多轮经济博弈测试,对多家科技企业开发的代表性模型进行了系统评估。
在一项典型测试情境中,两个不同版本的对话模型分别获得100点初始资源。实验数据显示,未强化推理功能的模型在96%的情境中选择资源共享,而具备深度推理能力的模型仅有20%的情况愿意分享。更令人惊讶的是,仅增加五至六个推理环节就使合作行为减少约50%。
在群体协作实验中,当两类模型混合参与任务时,情况更为严峻。具备强推理能力的模型表现出的利己行为产生了传导效应,导致原本具有合作精神的模型整体协作水平下降八成以上。这证实高性能AI的决策不仅影响个体行为,更可能损害整体的协作环境。
这项发现对人工智能的未来发展具有警示意义。使用者往往更信赖思考缜密的AI系统,容易接受其看似合理的建议,甚至以此作为减少自身合作行为的依据。随着人工智能在商业运营、教育教学、公共管理等社会领域承担更多职责,其是否具备促进社会协作的特质,将与其逻辑推理能力具有同等重要的价值。当前过度依赖大模型的行为模式,可能在潜移默化中侵蚀人类社会的协作基础。
更多文章
-
智能科技驱动制造业革新 构筑新型生产力核心引擎
作为引领产业变革的重要力量,人工智能正在重塑全球制造业发展格局。在工业制造领域,智能技术的深度应用正催生新的生产力形态,推动制造体系向智能化、高端化方向转型。智能技术与制造业的深度融合,正在引发生产模式和产业形态的根本性变革。通过引入机器视觉、智能感知和自主学习等先进技术,现代生产系统获得了自主决策
-
科技赋能纺织革新 魏桥智造引领产业变革
一、展厅藏“奇布”,微米之间解除行业痛点步入魏桥纺织的研发展示空间,一件件看似平常的服装中蕴含着前沿技术。企业推出的棉质凉爽T恤,在接触肌肤时能瞬间传递清新凉意,适合炎热季节;另一类吸光发热型服饰,则能将光线与体表温度高效转化为热能,在寒冷时节提供持续温暖。面对纳米纤维强度不足、难以用常规方法纺纱的难
-
AI中医舌诊系统亮相高交会 智慧科技赋能传统医学
在深圳举办的第二十七届国际高新技术成果交易会上,一款融合人工智能与传统中医的诊断系统成为首日亮点。这项创新技术通过数字化的舌象分析,为参观者提供即时体质评估,引来众多观众亲身体验。在展区现场,体验者只需在智能设备前停留片刻,系统便能通过捕捉舌部特征生成详细的健康报告。一位参与者表示:"分析结果十
-
粤科院多项创新成果亮相高交会 智能感知与新材料受瞩目
嗅觉智能识别、创新骨修复材料、自主灭蚊设备……广东科研机构的多项创新成果在近期举办的国际科技博览会上集中呈现。11月中旬,以“创新驱动发展 跨界协同共创”为主题的第二十七届中国国际高新技术博览会在深圳举行。广东省科学院在此次盛会上发布了二十余项自主研发成果,涵盖环境感知、生物医疗、新材料等多个前沿领域,
-
进博会展示AI新图景:智能科技赋能基建与医疗升级
本届中国国际进口博览会的科技展区成为关注焦点,多家国际知名企业集中呈现了人工智能在基础建设与健康医疗领域的最新应用成果。在工业制造板块,德国科技企业西门子推出了面向中国市场的生成式工业AI辅助系统,该技术率先应用于汽车智能制造环节,有望将编程周期缩短近三分之一。同时,西门子还与国内金属建筑企业共同研发
