AIUC 用网络安全审计模式给 AI Agent 做认证,获 5500 万美元融资

一家新创业公司试图把网络安全领域的第三方审计模式搬到 AI Agent 上。联合创始人 Rune Kvist 是 Anthropic 早期员工,另一名联合创始人 Rajiv Dattani 曾任 AI 安全研究机构 METR 的 COO(2024-2025 年任职,目前仍是董事会成员)。公司叫 Artificial Intelligence Underwriting Company(AIUC),目标是为企业和模型厂商提供 Agent 安全认证。

AIUC 参照 SOC 2 标准制定了自己的认证体系 AIUC-1,并配套一套测试服务。测试流程是把 Agent 丢进约 5000 个测试场景,包括越狱、幻觉、数据泄露等,最终输出一份约 100 页的报告,标明该 Agent 在哪些场景下安全可靠、哪些场景存在问题。有意思的是,测试由 AI Agent 执行,数据分析也由 AI 完成,但最终审计结论由人工复核。

标准怎么定?AIUC 组建了一个约 250 人的安全与风险负责人联盟,这些人大多是 Agent 的采购方。AIUC 每月跟他们碰面,问的核心问题是:你们买 Agent 时想看什么、会问什么、希望哪些问题被解决。这些反馈直接决定了测试内容。

AIUC 已公开的客户包括 Cursor、Lovable、Harvey、ElevenLabs。融资上,刚宣布完成 4000 万美元 A 轮,由 Ribbit Capital 领投,First Harmonic 参投;此前还有一轮 1500 万美元种子轮,投资方包括 Nat Friedman 的 NFDG、Emergence、Terrain,以及 Anthropic 联合创始人 Ben Mann 等。总融资额 5500 万美元。

创始人的核心判断是:AI 越聪明,越难被采用、越难被控制,而不是相反。Kvist 说,银行、医院、政府和军方不部署 AI,不是因为模型不够聪明,而是因为他们已经向客户承诺了系统能做什么、不能做什么,但目前没人能保证这一点。AIUC 想填补的正是这个空白——给采购方一个独立评估,告诉你哪里可以信任、哪里需要担心。

这和 METR 的做法有相似之处,但 METR 主要面向前沿实验室,且早期更多关注性能(Agent 能否可靠完成任务)。Anthropic CEO Dario Amodei 最近也呼吁行业放缓前沿开发速度,并提到过要求前沿实验室使用嵌入式第三方评估者,METR 是其中一种可能。AIUC 不打算嵌入客户现场,但思路一致:为 Agent 提供独立的安全评估。

Early Anthropic hire, former METR COO have found a way to rein in rogue AI agents | TechCrunch

查看原文