Anthropic CEO 回应开源模型争议:不主张禁止,但担忧中国 AI

Anthropic CEO Dario Amodei 周一回应了行业传闻,明确澄清 Anthropic 从未主张过禁止开源权重模型。他的表态紧随黄仁勋在 X 上发布公开信之后,该信由 Nvidia、Hugging Face、Meta、Microsoft、Mistral 等公司联署,敦促政策制定者不要对开源 AI 模型施加 “过早的限制”。

Amodei 将开源权重模型与其担心的中国 AI 威胁区分开来。他认为,不具备危险能力的开源权重模型是 “公共产品”:除了运行所需的算力外不产生额外成本,能为企业、开发者和研究人员提供价值。他并不担心企业使用开源模型,即使是来自中国的模型。

他真正的恐惧在于,”威权政府” 可能构建出比美国更强大的模型,以实现 “永久的军事优势” 或利用 AI 压迫本国人民。在他看来,中国共产党(CCP)虽不是他唯一担心的威权政府,但却是 “最有能力” 的一个。他还担忧 AI 将促成生物攻击,而不仅限于网络安全领域。在这些场景下,开源权重模型更加危险,因为难以对其施加护栏或监控使用。他引用英国 AI 安全研究所的报告指出,一旦开源权重发布便无法撤回。

Amodei 列举了若干他认为能遏制中国的举措:包括限制中国获取高性能芯片(美国长期政策)、正式打击蒸馏技术。有趣的是,他还支持建立一个全球性的模型安全测试组织,并认为这接近于行业共识——如果包括中国在内的全球各方都同意遵守的话。他指出,要使该测试有效,必须是全球性的,意味着 CCP 也必须参与。他认为这或许可行,因为在防止 AI 生物武器方面的有限合作同样符合中国的利益。

Anthropic's Dario Amodei responds: doesn't oppose open-weight models, but fears Chinese AI | TechCrunch

查看原文