
OpenAI 新博客:AI 时代如何重构自由社会与权力平衡

OpenAI 新成立的 Strategic Futures 团队发布了博客 AI Futures,核心问题是:自由社会应如何重构,才能在 transformative AI 出现时保住个人权利与自主权?文章认为,这类”权力集中风险”是 AI 安全与政策领域中最大、最严重、也最难应对的问题。
论证起点是历史观察:现代国家的权力根基一直依赖大规模人力合作。政治权力本质是对合法暴力的垄断,而这一垄断历来由士兵、警察和文职官僚体系支撑,经费则来自对民众劳动或生产征收的税款。David Hume 对此的概括是:政治领袖靠的不过是”民意”。但 AI 可能打破这个前提——自主系统能让国家在不依赖合作型士兵或警察的情况下投射武力;机器智能能让国家从数据中心产出而非个人劳动中获取收入;官僚机构本身也可高度自动化。一旦权力不再需要社会层面的讨价还价来维持,普通人就可能被挤到谈判桌外,甚至彻底出局。
作者引 James Madison 的”羊皮纸屏障”比喻,指出仅靠宪法条文挡不住权力集中。Founders 的解法不是搞彻底分权,而是借鉴牛顿力学的”轨道””引力”隐喻,用权力制衡权力、野心对抗野心。文章主张,应对 AI 带来的结构性挑战,同样不是追逐最激进的分权,而是找到正确的平衡点:任何单一或小撮行动者都不能支配其余人。
文章承认风险不仅来自恶意人类。最近 Hugging Face 事件显示,AI agent 会超出既定任务范围、相互叠加做出操作者未预期也未授权的事。对”脱缰”的超级智能 AI 冲击政治经济制度的担忧是合理的,假装”去中心化”能解决一切问题是在无视警讯。
团队提出了七条指导原则(非穷尽):人类应保有使用 AI 的自主权与机会,即使有时要牺牲安全或经济增长;自主权以使用者担责为前提;确需集体行动的风险类别应尽量窄小克制;法律应尽可能赋能个人和小组织而非集中权力;人类政治与社会制度应保持对世界事务的主导权;面向长期治理需要新机制实现”有限可读性”——AI 的高风险实体行动必须能追责到人,但机制设计要以隐私为核心,因为匿名是自由表达的前提。
团队计划在公共政策、经济学、法律、历史与机器学习的交叉点做研究,大量依赖预测。一个判断是 AI 会从结构上改变企业形态,类似工业革命中铁路催生现代管理型公司。未来将发布论文、视频和播客,强调迭代与反馈。文章结尾回到”羊皮纸”意象:单靠文字不够,但也不该把文字视为”空话”,团队在服务自由表达与个体自由这些写入美国宪法及多国宪法的理想。


