无声共识:人类为何必须守住方向盘

作者在这场哈佛演讲中先提到,当前正发生被一些人称为 Black October 的重大安全漏洞披露事件——这些漏洞出现在互联网核心基础设施中,由前沿 AI 系统发现,披露是为了加固全球软件安全。但他认为,这类紧急事务下个月还会换一副面孔出现,AI 政策往往会在这种喧嚣中形成。他真正想谈的是一个更抽象、更根本的问题:科技行业不缺技术愿景,缺的是关于制度未来的积极愿景。

在作者看来,最常见的制度愿景是一种很少被明说、只在暗示中察觉的 无声共识。其逻辑是:一个几乎不需要人类劳动的 AI 公司,如果比人类竞争者(哪怕人类也用 AI 增强)做得更好,那么人类老板和所有者就有强烈动机为了效率而不插手。这种决策在全球经济中反复出现,市场就会把人类从全球商业的主导位置上推下去。不需要 AI 背叛人类,也不需要所有者希望人类失权,每一笔委托单独看都合理,合起来却通向一个人类已放弃对文明实际权威的世界。这个共识之所以称为共识,不是因为大家都认为它好,而是因为许多人认为它不可避免。

作者明确拒绝这种宿命论。他认为,把 AI 说成没有“真正理解”的单纯工具,这种反驳本身就是自满,是建立在否认 AI 能力上的,而不是一种积极的、人类主导的未来愿景。人类的首要地位不来自智力垄断,而来自我们的过去:人类从泥泞中走出,创造了道德、法律、艺术和历史。AI 可以参与迈克尔·奥克肖特所说的“人类的对话”,但读遍你家阁楼信件的人不会因此成为家庭成员。他也承认反对无声共识并不容易:如果全自主企业在竞争中胜出,经济逻辑会要求把更多资本交给机器;农业革命的前例显示,新生产方式可能让人类福祉恶化数千年。他相信人类集体智能比共识论者设想的更强,但也承认自己可能判断错误。

为守住主导权,作者提出一组原则:AI 开发者要为不安全开发负责,使用 AI 的人和企业要为自己的失察负责;智能体的权限应当可理解、有限、可审计,用户能随时撤回授权;自主智能体若参与合法经济,必须在护栏下运行,形成公司、拥有财产、提起诉讼的能力要极其谨慎授予。系统设计应帮助人获得理解和决策能力,而不仅是替人执行任务。他承认这不是完整蓝图,但他认为这是一个可以开始的起点。

最后,作者呼吁把无声共识摆到明处,并扩大自己的野心。他不想让孩子坐在更舒服的乘客座位上,而是希望孩子能握着方向盘。

The Silent Consensus

查看原文