
OpenAI、Anthropic及Google谈AI安全数周

周二,OpenAI全球政策主管Chris Lehane向记者证实,OpenAI已与竞争对手Anthropic和Google DeepMind就AI安全议题进行了数周谈判。这一消息最早由Bloomberg报道。Lehane据称正在华盛顿,与美国议员合作应对与AI相关的灾难性风险。
谈判背景是Anthropic CEO Dario Amodei上周六发表文章,呼吁行业合作放慢前沿AI发展速度,避免灾难性风险。OpenAI的Sam Altman、Google的Demis Hassabis、Elon Musk均表示支持。Altman称OpenAI将加入Anthropic,把第三方评估者嵌入公司内部监控安全。
Lehane承认三家公司的谈判已持续数周。有人(包括Altman)指出,如果这种协调被认定为抑制竞争,可能触犯反垄断法。Amodei在文章中提议政府给予一个窄幅豁免,但Lehane表示企业并不需要。
更早的迹象已经出现。上周晚些时候,Altman接受Fortune采访时暗示他正与其他AI领袖私下讨论。本周The Information报道,三家公司正合作创建一个AI行业标准机构——Altman据称告诉员工,这件事需要在没有美国政府支持的情况下推进。Hassabis在7月也曾呼吁美国建立标准机构,充当AI监管者,有权筛查全球最先进的模型,并在危险升级时协调全行业放缓。
白宫态度相反。特朗普将安全担忧称为骗局,反对更严监管,认为任何放缓都会让中国在竞赛中占先。其AI顾问David Sacks——长期投资者,在行业内个人利益深厚——也认为AI存在风险的恐慌被夸大了。
同一天的会议上,Lehane表示OpenAI支持FRONTIER Act中的一项条款,该条款要求前沿实验室允许“独立验证组织”进入公司,确保模型安全开发。TechCrunch已联系Anthropic、Google和OpenAI寻求评论。


