新芒xAI 9月2日消息，在2026年国家网络安全宣传周新闻发布会上，中央网信办相关负责人表示，当前人工智能领域主要面临五方面安全风险挑战。
关键要点
这五类风险包括：技术先天脆弱性难以根除，影响输出稳定性和可靠性；模型能力跃迁颠覆传统安全范式，极端失控风险显现；应用形态快速演进，安全风险形态加速迭代；误用、滥用和恶用风险凸显，冲击社会秩序与伦理边界；全球人工智能领域面临技术霸权风险。
对政企机构、安全厂商、模型服务商和应用开发者而言，这意味着AI安全不再只是内容审核或合规备案问题，而是覆盖模型研发、部署调用、数据流转、权限控制、日志审计和跨境技术依赖的系统工程。
新芒xAI评论
监管部门把AI风险拆成五类，有助于把抽象的“AI安全”转化为可治理清单。企业如果只在产品上线后补合规，很难应对模型幻觉、工具误调用、提示注入、数据泄露和恶意自动化带来的复合风险。
下一阶段，AI项目的采购和上线评估应更强调安全前置：模型来源、训练与推理数据边界、第三方插件权限、人工复核机制和事故响应流程，都需要成为基础要求。对安全团队来说，AI治理正在从边缘工作变成核心基础设施能力。
