Altman 在联合国安理会谈 AI 风险与人类控制原则

OpenAI CEO Sam Altman 在联合国安理会发言,核心是讨论 AI 的机遇与风险,并提出国际合作的框架。他强调当前 AI 进展速度加快,既带来类似文艺复兴的创造潜力,也可能引发类似工业革命的动荡。他明确反对两种极端叙事:盲目乐观和末世论,主张走中间路线。

Altman 提出 AI 可能出问题的两个方向:一是人类失去对系统的控制,二是权力过度集中在少数人手中。他认为,无论灾难概率是 10% 还是 0.1%,都不可接受,因此不应训练无法保证受人类控制的模型。同时,他反对任何单一公司或国家利用最强 AI 模型强加其世界观,这种逻辑即使对某一方有利也必须拒绝。

在具体原则上,他给出三条:第一,人类必须保持在 AI 决策中的核心地位,对齐不是抽象研究问题,而是确保系统持续受控并反映人类价值观;第二,科技进步和经济收益必须由人创造、为人服务;第三,技术应增强个体能力,而不是把人变成机器零件。他特别补充,OpenAI 不是故事的主角,作用只是赋能全球用户。

他用数学能力进展作为具体例证:三年前模型勉强能做小学算术,两年前能应对高中数学竞赛,去年达到国际数学奥赛金牌水平,而最近几周模型解决了千禧年大奖难题中的纳维-斯托克斯方程。这个进展不是为了做题本身,而是为了支持医疗、气象、航空等领域的科学发现,但他也强调公司不能替代民主决策,关键选择不能只由旧金山的实验室做出。

在国际治理层面,他呼吁建立互补的国家级和全球性前沿 AI 标准,覆盖能力测量、风险评估、安全防护和人类监督;建立共同标准以便各国比较证据、核实合规;建立快速准确的事件报告与分类协议,让失败在演变成灾难前被学习;并建立政府、关键基础设施运营者与专家之间的安全信息共享渠道。他还说这些标准不应锁定现有企业或偏爱特定商业模式,应同时支持开源与闭源开发者、新进入者与既有实验室。

最后他强调 AI 正处于十字路口:一条路是权力集中、决策不透明,另一条路是通过民主制度让公众参与塑造 AI 发展,使其服务于个人与社区。他承认没有所有答案,愿意合作寻找路径。

Sam Altman’s remarks at the United Nations Security Council

查看原文