AI 【新芒xAI】Anthropic、OpenAI与谷歌被曝共议AI标准机构,企业客户有望获得统一安全评测坐标

【新芒xAI】Anthropic、OpenAI与谷歌被曝共议AI标准机构,企业客户有望获得统一安全评测坐标

新芒xAI 9月14日消息,Anthropic、OpenAI与谷歌被曝正在磋商合作建立人工智能行业标准机构,重点可能涉及前沿模型的技术测试与审核。相关机构的组织形式、参与范围、执行权限和成立时间尚未公开,现阶段仍应视为协商中的方案。

关键要点

OpenAI近期公开提出,将与其他前沿实验室推动行业标准,并倡导建立兼容的能力评估、风险管理和人类控制机制,用于判断何时应放缓或停止开发。公司同时支持在政府制度尚未完善前,先通过行业自愿合作建立可操作的共同框架。

Anthropic首席执行官Dario Amodei提出,前沿实验室应允许长期驻场的第三方评估团队检查安全实践、训练流程和事故处置,并认为跨公司协调必须建立在可验证的测试与审核基础上。谷歌也长期公开支持由行业推动的技术标准,但三家公司是否已就具体章程达成一致仍无明确信息。

Anthropic、谷歌、微软和OpenAI早在2023年就共同发起Frontier Model Forum。新的讨论若要产生增量价值,需要说明其与现有组织的关系,并明确测试标准是否统一、结果是否公开、第三方评估者能否持续接触训练流程,以及成员违反承诺后如何处理。

新芒xAI评论

对企业客户而言,统一标准最直接的价值不是降低采购价格,而是减少不同模型安全报告无法横向比较的问题。若行业能够形成一致的能力分级、红队测试、事故披露和审计接口,采购团队才可能把模型风险纳入可复用的供应商评估流程。

但由头部实验室主导标准也存在利益冲突。过高的合规门槛可能巩固领先者优势,过低的门槛又可能沦为自我认证。可信机制需要吸收独立研究机构、中小开发者、企业客户和公共部门参与,并把测试方法与结论置于可复核范围。

后续应重点观察三家公司是否公布正式参与名单、治理结构、共同测试集和事故报告规则。只有当标准能够约束成员自身,并允许外部评估者验证执行情况,这一机构才可能从行业协调信号变成真正的安全基础设施。

文章来源信息声明: 本文信息出自权威媒体、企业官方及网络,并经新芒X编辑,转载请注明源出处、作者和链接。 图片部分来源于网络,在此表示感谢,如有侵权请联系我方处理。 文章发布日期后方火形图标后的数字,为文章热度,谨代表受欢迎程度。 新芒X平台仅对用户提供信息及决策参考,本文不构成投资建议。

作者: 新芒Group

新芒出品,专注专业。兼具内容品质和传播影响力
关注微信
微信扫一扫关注我们

微信扫一扫关注我们

关注微博
返回顶部