TechCrunch的Equity播客近期邀请ControlAI美国执行董事Connor Leahy，讨论一个被AI公司视为必然、却可能失控的议题：超级智能。Leahy给出的判断很直接：超级智能不是武器，而是对手。武器可以瞄准目标，对手有自己的行动逻辑，无法靠外部指令可靠控制。近期OpenAI在Hugging Face上的安全泄露事件，被他视为这种风险的早期信号。

Leahy认为，仅靠对齐与遏制手段，已经不足以应对比人类更聪明的系统。他所在的ControlAI主张更激进的路径：直接阻止公司开发超级智能。这个立场六个月前还显得离谱，如今已有立法跟进。他评价了美国参议员Sanders与Casar提出的“禁止超级智能法案”，也谈到ControlAI曾为英国类似立法提供建议。他的判断是，美国法案可能走得比实际需要更远。

Leahy还提出两个观察。其一，前沿AI实验室更像政治行动者，而不是单纯追逐回报的公司，这改变了数万亿美元数据中心建设投入的意义。其二，真正的不可逆点不是某个能力阈值，而是AI能自己构建更好的AI，形成自我改进的失控循环。他支持国际间“信任但核实”的协议，并认为建造超级智能并不符合中国的利益。

完整讨论在Equity播客中，可在YouTube、Apple Podcasts等平台收听。