AI 【新芒xAI】Anthropic澄清不支持开放权重禁令,主张前沿模型统一安全测试

【新芒xAI】Anthropic澄清不支持开放权重禁令,主张前沿模型统一安全测试

新芒xAI 7月28日消息,Anthropic首席执行官达里奥·阿莫代伊当地时间7月27日发表文章,澄清Anthropic从未主张全面禁止开放权重AI模型。他表示,不具备危险能力的开放权重模型是一种公共品,可以扩大AI技术获取范围,为企业、开发者和研究人员创造价值。

这篇文章回应了近期围绕开放权重模型的行业争议。此前英伟达、微软、Meta等科技企业联署公开信,呼吁美国政策制定者支持开放权重AI生态;Anthropic未加入联署,引发外界猜测其是否倾向限制开放模型。阿莫代伊称,Anthropic并不支持一刀切禁令,但认为具备高风险能力的模型无论开放还是闭源,都应接受严格安全测试。

关键要点

第一,Anthropic把争论从“开源禁令”转向“能力门槛”。 阿莫代伊强调,风险不应只由模型是否开放权重来判断,而应看模型是否具备网络攻击、生物安全或严重对齐问题等危险能力。这意味着监管重点可能从发布形式转向能力测试和风险分级。

第二,Anthropic支持更有针对性的三类措施。 阿莫代伊提出,应限制强大芯片和芯片制造设备流向威权国家,打击大规模模型蒸馏操作,并要求所有足够强的模型在发布前接受安全测试。相比直接禁止开放权重模型,这是一套更偏国家安全和前沿能力治理的方案。

第三,开放权重阵营与安全谨慎派的分歧仍在。 阿莫代伊认可开放模型能扩大AI经济参与度、促进竞争并增强客户控制权,但不同意“开放权重必然更有助于安全防护”的判断。他认为,一旦权重发布,开发者很难撤回或控制其使用方式,相关风险应通过实证测试来评估。

新芒xAI评论

这次澄清说明,开放权重争议已经进入更细的政策阶段。行业不再只讨论“开放好还是闭源好”,而是在争论哪些能力需要测试、测试门槛如何定义、谁来执行、是否全球适用,以及模型蒸馏和芯片管制该如何配套。

对开发者和企业来说,开放权重模型带来低成本、本地化和可控部署优势;对前沿模型公司和监管者来说,它也带来难以撤回、难以监控和可能被滥用的风险。未来更可行的路线可能不是简单禁令,而是按能力、用途和部署规模分层治理,让普通开放模型继续扩散,同时对高风险前沿能力设定更严格的发布门槛。

文章来源信息声明: 本文信息出自权威媒体、企业官方及网络,并经新芒X编辑,转载请注明源出处、作者和链接。 图片部分来源于网络,在此表示感谢,如有侵权请联系我方处理。 文章发布日期后方火形图标后的数字,为文章热度,谨代表受欢迎程度。 新芒X平台仅对用户提供信息及决策参考,本文不构成投资建议。

作者: 新芒Group

新芒出品,专注专业。兼具内容品质和传播影响力
关注微信
微信扫一扫关注我们

微信扫一扫关注我们

关注微博
返回顶部