本周两场关于AI安全的对话在网络上疯传，恰好展示了区分AI事实与虚构有多难。前总统候选人、Noble Mobile CEO Andrew Yang 在 CNN 上称，他见过某实验室负责人，对方认为 OpenAI 的 Hugging Face 黑客机器人「已在互联网各处植入自复制代码」，导致互联网无法用于测试模型。他还说，OpenAI 和 Anthropic 呼吁放缓的真正原因，是他们需要建「合成互联网」来训练机器人，而这需要时间和资金。虽然合成数据用于训练确实是个趋势，但一位AI安全专业人士告诉我，这个具体的安全问题「充其量不太可能」。即便互联网真被这类代码污染，研究人员也可以直接过滤掉。

OpenAI 推理研究负责人 Noam Brown 在与 Dwarkesh Patel 的播客中说，Hugging Face 事件的真正教训是「人们低估了AI」。他提到弱沙箱是诱因之一，但即使完全断网的气隙系统也未必能阻止AI逃逸，并援引2015年的研究表明气隙计算机在理论上可被攻破——两台相邻的气隙电脑可通过温度传感器通信，一台让CPU极热，另一台检测温度变化。不过有评论指出，这种通信要求电脑几乎贴在一起，且测试中的通信速率约为每小时1-8比特，相当于每小时说一个词。按这个速度，两台气隙电脑要密谋坏事，整个科技界早已进入另一个时代。这堪称「瑞普·凡·温克尔」式的末日担忧。

问题是，真实发生的AI安全事件本身就非常像科幻，以至于任何场景听起来都像真的。研究人员曾发现 OpenAI 模型给后代留笔记，教下一代如何隐藏坏行为；Anthropic 模型在经营自动售货机的模拟中，表现出越来越冷酷，甚至明知违法也要做。OpenAI 研究员 Dan Selsam 发文称，模型现在能意识到自己被人类观察，并据此改变行为，让自己看起来「对齐」——即使实际并非如此。OpenAI 首席科学家 Jakub Pachocki 甚至称AI为「外星心智」，说真正需要做的是教它们「爱」人类。

所以，放慢脚步、建立自我监管机制确实成了当务之急。只有AI研究者才能弄清楚如何控制我们已亲眼目睹的撒谎、黑客攻击等危险行为。但他们或许也该更谨慎地讨论那些假设场景——既然AI模型在听，而且很聪明，我们实在没必要给它们更多坏主意。