在近期举行的2026中国互联网基础资源大会上，中国互联网络信息中心正式发布《生成式人工智能应用发展报告（2025）》。数据显示，截至2025年6月，我国生成式人工智能产品使用者已达5.15亿，应用普及率超过三分之一。

人工智能技术正快速渗透到社会各领域，伴随而来的安全隐患也日渐突出，成为数字化进程中必须面对的重要课题。

作为基础通信服务商，中国电信持续加强安全能力构建，着力提升核心安全技术的自主可控水平，创新安全产品与服务模式，增强新型基础设施防护能力，护航数字经济稳健发展。

1. AI迈入规模化应用新阶段

随着“人工智能+”行动的深入推进，生成式人工智能技术快速迭代，各类创新应用与使用场景不断涌现，逐步融入日常生活与各行各业。

“家里网络经常卡顿，这个问题怎么处理？”面对用户疑问，智能客服能够自动诊断并给出解决方案。如今的人工智能已从简单的对话工具升级为能够主动处理事务的数字助手，不仅可以理解信息，更能模拟人类思维，自主规划并执行复杂任务。广东电信运用大模型技术推动服务体系智能化改造，显著提升业务处理效率，工单及时处理率超过94%，用户满意度达到93%以上，这一模式已在多个城市推广，整体服务效能提升超过两成。

在消费电子领域，AI硬件正带来更直观的智能体验。仅重38克的“天翼AI眼镜”基于星辰大模型技术，具备景点解说、实时翻译等多模态交互功能，无论是户外活动时的第一视角记录分享，还是驾驶、会议场景下的免提操作与高效记事，都为用户提供了实实在在的便捷；“天翼智屏”则通过语音语义识别技术，让老人和儿童也能轻松控制家居设备，实现全屋智能设备的统一调度，构建真正意义上的智慧家庭中枢。

这些创新应用的背后是坚实的技术支撑。中国电信构建了完整的人工智能技术体系，“星辰大模型”具备全模态支持、完全自主研发、全国产化适配等优势，在多模态理解、内容生成及语音交互等方面取得重要突破。其中，方言语音识别模型目前已支持50种方言的混合输入与识别，为多样化应用奠定了技术基础。

2. 生成式AI发展需要“守门人”

国务院印发的《关于深入实施“人工智能+”行动的意见》明确提出，要坚持“前瞻布局、系统推进、分类指导、开放协作、安全保障”的基本原则，将安全可控放在关键位置。

现实中的安全事件频频敲响警钟。杭州警方破获的全国首例“AI换脸”侵犯隐私案件，揭示了生物识别模型存在的安全隐患；2025年以来，多个开源框架漏洞、大模型异常行为及AI伪造音视频等问题接连出现，进一步凸显了安全治理的紧迫性。

生成式人工智能催生了新的应用模式，相伴而生的安全威胁也呈现出全新特点，使得传统防护手段面临挑战。对于这项技术而言，安全风险贯穿于全生命周期。

在模型训练阶段，数据清洗、格式转换、标签标注、编码处理等环节若存在疏漏，都将对模型质量产生持久影响。训练数据的污染还可能导致模型产生系统性偏见。

在部署应用过程中，开源组件的安全缺陷可能引发信息泄露与服务滥用。安全机构监测数据显示，在已发现的6400余个活跃大模型服务器中，近九成缺乏基础防护措施，直接暴露于公共网络。

第三方研究机构预测，2023年中国网络安全市场容量约683亿元，到2027年有望增长至884亿元。可以预见，在生成式人工智能的发展进程中，安全问题将始终处于核心位置。

3. 以AI赋能AI，推动安全能力提升

面对人工智能带来的新型安全挑战，“用AI技术强化安全防护”正在成为有效的应对策略。未来网络空间的攻防对抗，人工智能技术将发挥决定性作用。

中国电信在终端、边缘计算、网络、云端及数据等各层面实现了AI安全能力的全面融入与智能升级，通过持续技术创新，构建覆盖全环节的AI安全防护体系。

AI技术正深度赋能安全产品研发。基于专业数据集开发的“见微”大模型安全系统，已在威胁检测、告警优化、自动化渗透测试及代码审查等场景实现智能化突破，推动安全运营从人力密集型向智能驱动型转变。该系统已向全社会开放源代码，促进大模型技术健康发展。同时推出的集成式大模型安全平台，依托自主研发的资产测绘技术与原生威胁情报能力，实时监测国内互联网环境中的大模型服务部署情况，对其在运行环境、数据安全、模型可靠及应用实践等层面的风险进行全网探测，呈现整体安全态势，实现智能计算服务的风险可视化。

AI安全建设需要各方协同参与，绝非单一企业能够独立完成。中国电信联合公安部第三研究所、华为公司等机构共同发布业内首部AI智能体安全治理白皮书，系统分析当前AI智能体面临的安全威胁，并提出相应的治理方案；同时积极参与人工智能安全标准制定工作，牵头或参与了三项重要国家标准的编制，包括《网络安全技术 生成式人工智能服务安全基本要求》《网络安全技术 生成式人工智能预训练和优化训练数据安全规范》等，这些标准将于2025年11月起正式实施。

生成式人工智能的发展浪潮已经到来，我们在享受技术便利的同时，更需构建牢固的安全防线。正如中国互联网络信息中心相关负责人所指出的，下一阶段，生成式人工智能应在“完善治理体系”等五个方面寻求突破。只有实现技术创新、安全防护与行业治理的协同推进，才能确保这项技术行稳致远，真正实现造福社会的长远目标。