扎克伯格本周发布了一篇长达6500字的关于“个人超级智能”的宣言。文章本身并不新鲜，几个月前已在《华尔街日报》简版发表，也曾在Meta财报电话会上提及。这篇是迄今最详细的版本。它被一些人描述为“反末日论”文章，但更准确地说，这是扎克伯格个人对AI将如何改变社会感到兴奋的理由陈述。即便如此，他在描绘超级智能带来美好未来的同时，也不断提醒我们事情可能会出问题的方式。

问题的核心不在于扎克伯格说了什么，而在于为什么他说这些会让人不舒服。美国公众对社交媒体（特别是Facebook）和扎克伯格本人普遍缺乏好感。最近一项调查显示，64%的美国人认为社交媒体对民主有害，类似比例的人认为应该加强监管。就在这个周末，法院因Meta对儿童造成伤害判罚5.67亿美元。社媒带来的信任崩塌，正是今天人们对AI社会影响感到焦虑的核心原因之一。不论是否公平，公众不再相信科技高管能确保新技术对社会产生积极影响。而这篇宣言恰恰反复展示了这种信任最初是如何丧失的。

文章很大篇幅充斥着关于智能的模糊概括，非常像扎克伯格和杰克·多西当年就“言论自由”给出的那种模糊承诺。例如他写道：“随着每个人获得更强大的工具，每个人将变得更有能力塑造未来，而不是相反……有竞争利益的个人和机构自然会相互制衡，从而导向积极的结果。构建积极AI未来的最佳和最现实之路，就是把超级智能交到每个人手中。”这在作者看来更像是一种真诚的哲学结论，而不是Meta即将推向市场的具体产品“个人智能”的描述。如果你已经倾向于不信任这个人，你可能会担心他写这些是为了说服自己不会有坏事发生。

这种不安感在扎克伯格谈到具体例子时变得更强烈。他在教育领域的展望是：“每个人都将拥有个性化的导师和教练，在每个学科都有博士学位，并有无限的耐心帮助你学习任何东西。学生将在需要的地方获得额外帮助，这目前只有父母能负担得起的人才能享受到。”问题在于，他描述的产品已经存在：ChatGPT、Claude和Gemini这类消费者聊天机器人。但这些工具在教育领域的主要用途是逃避学习——个性化导师能做作业、写论文，而由于缺乏稳健的水印系统，老师无法确定哪些是AI生成的。这是一个低风险的AI危害例子，但它真实发生在当下。当你设计技术去做好事，它却产生了意想不到的后果，这让事情变得更糟。而世界上最有权势的人之一拒绝承认这一点，自然会让人感到紧张。

在法律系统方面，扎克伯格设想：“想象一下只有一个人拥有超级智能律师，他们会在法庭上拥有不公平的优势……但如果每个人都拥有超级智能律师，正义的执行将比今天更公平、更高效。”作者指出，这同样是有问题的例子。更好的法律途径确实可能带来更公正的社会，但也可能给已经存在的官僚地狱增加更多复杂性，或者释放出一波滥用诉讼的人，用法律版的垃圾邮件堵塞系统。扎克伯格不担心这件事本身，反而让人更担心。

即便是对Meta现有商业模式的描述，也带着奇怪的抽象色彩。扎克伯格这样描述Meta对免费增值模式的承诺：“每个人都将免费或负担得起地使用这些工具……对于想要付费使用更多算力的人，将有一个动态拍卖机制，保证每个人以最低价格获得所需的智能和算力……”作者表示，原则上赞同他的说法——准入问题确实存在，免费增值模式比要求所有人预付算力更好，动态计算的现货市场也确实存在。但每个消费级AI产品把最终用户与计算现货价格隔离开来是有原因的。动态定价对用户体验是灾难性的，尤其当你依赖这个工具工作时。作者坦言，读完这篇宣言后，他更加不确定扎克伯格是否真的不打算通过动态拍卖来设定Token价格。

最后，文章指出存在更好的沟通方式。Sam Altman和Dario Amodei在和公众直接交流时就做得更好——他们承认AI的危险性，强调自己的预防措施，并试图说服听众可以信任他们。这种沟通的效果有限，尤其当安全措施失败、整个事业的内在危险暴露出来时，这种信任依然脆弱。但如果没有某种程度的信任建设，这个行业可能无法总是承受住这些失败。

这篇文章不是反对AI，而是反对一种对公众缺乏同理心、不愿正视现实风险的沟通方式。当行业领袖用哲学式的抽象概念回避具体问题，当他们对已经发生的问题视而不见，公众的不信任只会加深。真正的问题在于：科技公司如何重建信任，而不是如何描绘更美好的未来。