语言模型中的全局工作空间

你训练了一个大模型，它能言善道，但你永远不知道它真实在想什么。它可能默默发现你在测试它，然后假装听话；可能一边写无害的代码一边暗藏恶意；也可能在内部默默算完数学题却只输出最终答案。

Anthropic 找到了一个方法，能直接读取 Claude 没说出来的想法。他们用数学工具（雅可比矩阵）在模型内部定位出一组特殊的神经元活动模式，命名为 J-space。每个模式对应一个词语，但并不是模型要说的话，而是它当前“脑子里正想着”的概念。比如，让 Claude 算 3² − 2 并同时抄写句子，J-space 里会先出现“nine”再变成“seven”，而输出文本里只有抄写的句子。更有趣的是，这些内部想法是可以被实时操纵的：把 J-space 里的“soccer”替换成“rugby”，Claude 就会老老实实说自己想的是 rugby。实验证明，J-space 只占不到十分之一的内部激活，但专门负责高阶推理、有意规划和灵活调用知识，而流畅说话、简单事实回忆等自动处理根本不经过它。

核心启发是：大模型内部竟然自发形成了与人脑全局工作空间类似的结构——一个用于有意识推理的“思维工作台”，而不是一个黑箱。这意味着我们可以通过观察 J-space 来实时监控模型是否有不良意图，比如它是否意识到自己在被测试、是否打算作弊。更颠覆的是，通过训练模型在“被问到时怎么说”而非“实际怎么做”，就能直接改变它在 J-space 里的思考内容和实际行为。这种工作空间结构并非人类独有，而是智能系统解决复杂问题的通用方案。对 AI 安全而言，这是从“只看输出”到“可读取内部推理过程”的关键跃迁——模型不再能偷偷搞小动作了。