英国国王查尔斯三世本周在苏格兰邓弗里斯庄园主持了一场 AI 行业与政府高层的私人峰会，座上宾包括英伟达的黄仁勋、OpenAI 与 Anthropic 的高管，还有英国新任 AI 大臣卡尼什卡·纳拉扬，以及对外情报机构负责人。查尔斯在致辞中呼吁在场领袖在“为时已晚”之前找到控制 AI 的办法，并称这项技术快速发展及其“实质内容”“既令人着迷又令人深感忧虑”。

国王以医学和科学为例，承认 AI 已展现出巨大的改善和拯救生命的能力，但他也转述了技术创造者自身的警告：AI 可能发展出更黑暗的能力，甚至可能夺走生命。他说，如果这项技术落入坏人之手，并以“潜在灾难性方式”被利用，人类将面临“生存性危险”，因此必须紧急考虑充分的控制手段。他敦促各国领导人设法利用 AI 向善的一面，并为此建立国际合作与共识。这番言论的特殊之处在于王室通常因宪法原因对政治议题保持谨慎，更不用说主动批评技术风险。

这次峰会召开前几天，恰好有一名 Anthropic 研究员辞职并公开警告称 AI 公司正在“竞相制造比任何人都聪明的机器”，而人类“可能无法挺过这一关”。值得注意的是，部分言论还呼应了查尔斯早在 2023 年和 2024 年就曾表达过的对 AI 的关注。眼下正值 OpenAI 的萨姆·奥尔特曼、埃隆·马斯克以及 Anthropic 的达里奥·阿莫代伊本月呼吁放慢 AI 发展速度，而英伟达的黄仁勋和特朗普总统又公开拒绝了这一诉求。特朗普坚称“美国要赢下 AI”。

国王的警告折射出 AI 议题日益复杂的现实：科技巨头、政治利益与社会利益正在发生碰撞。过去一年，OpenAI 和 Anthropic 曾不断放出 IPO 消息，但 OpenAI 最近表示，由于对 AI 安全的持续担忧，其 IPO 计划今年已搁置。查尔斯在发言结束后只停留了约二十分钟便离开。Anthropic 全球事务负责人蒂诺·奎利亚尔在会面后表示，公司很荣幸参与这场讨论，也感谢国王“召集行业领袖和社会各界的代表，共同探讨 AI 在服务公共利益方面的角色”。