秋日的昆明，滇池水光潋滟，气候宜人。9月17日，2025年国家网络安全宣传周人工智能安全治理分论坛于此举办。来自学界、产业界与政府的专家代表汇聚一堂，围绕人工智能风险防控、治理路径、算法安全及应用实践等核心议题展开深度交流，并发布了多项重要成果，包括中文互联网基础语料3.0、生成式AI安全测评基准数据集，以及行业自律倡议，为构建协同治理的人工智能安全生态提供新支撑。

一、人工智能安全治理攸关发展全局

人工智能正以前所未有的速度与广度渗透至经济社会各领域，从大模型训练到实际落地、从算力支撑到安全评估，其发展路径中伴随多重风险叠加，传统治理机制面临严峻挑战。推动AI迈向安全、可信、普惠，已成为全球性课题。

阿里巴巴集团安全部副总裁薛晖指出，当前我们面临的是复合型风险，各类安全问题——包括传统网络安全、模型内生安全乃至社会可持续性问题——彼此交织，构成前所未有的复杂挑战。

中兴通讯网络安全首席专家王继刚谈到，人工智能具备自主决策、非依赖人类判断及资源全域调用的能力，这些特质也使其攻击面更广、潜在影响更为深远。

中国工程院院士吴世忠强调，安全是治理的根本。人工智能不仅重塑国际竞争格局，更具备特殊战略属性。把握其安全风险，已成为全球治理的核心议题和逻辑起点。

二、“让AI更安全，让安全更AI”成为共识

本次论坛以“让AI更安全，让安全更AI”为主题，明确了人工智能治理的双重导向：既要提升人工智能自身的安全性，也需借助AI技术强化安全防御体系。

中国网络空间安全协会秘书长郝晓伟表示，人工智能在驱动新质生产力、赋能高质量发展的同时，也亟需通过治理实现安全可控，这是“人工智能+”行动的根本保障。

安恒信息董事长范渊指出，必须以“AI攻击”视角重新审视防御体系的有效性。AI驱动的攻击更具隐蔽性、高效性与低成本特征，“让安全更AI”意味着技术工具与认知模式的双重升级。

蚂蚁消费金融首席信息官刘义同样认为，传统安全手段已难以应对AI带来的指数级威胁，“以AI治理AI”正在成为必然选择。

三、共建人工智能安全治理新生态

人工智能在赋能千行百业的同时，也必须始终处于人类的控制之下，坚持科技向善、发展普惠的基本方向。

国家工业信息安全发展研究中心总工程师张格提出，应始终将“人”作为安全的最终防线，避免因过度依赖人机协同而削弱人的独立判断能力。人工智能治理是一项系统工程，需各方协同共建“多元共治、责任共担”的安全生态。

中国科学院计算技术研究所副所长程学旗指出，算法治理是AI治理的关键。算法安全涵盖三个层面：内生安全、滥用防控和人机协同问题。唯有建立统一、开放、科学的治理体系，才能实现发展与安全的平衡。

国家计算机网络应急技术处理协调中心相关负责人强调，面对快速演进的AI技术，需构建多场景、动态化、规范化的测评能力。此次发布的生成式人工智能安全测评基准数据集，将助力提升模型风险评估的全面性与科学性，推动AI技术在更多场景中的可信落地。

本次论坛在中央网信办相关司局指导下，由中国网络空间研究院、国家计算机网络应急技术处理协调中心、中国网络空间安全协会共同主办，《中国网信》杂志、光明网、安恒信息等单位承办，约150位来自政府、科研机构与企业界的嘉宾参与交流。