Laplace:部署前用 AI 给机器人和自动驾驶车做压力测试

Laplace Intelligence 是一家总部位于安娜堡的创业公司,做机器人和物理 AI 的自动化红队测试(red-teaming,即故意制造失败来给系统施压)。CEO Howie Sun 从 OpenAI-Hugging Face 事件中看到警示:AI agent 可能不可预测,而 AI 正从计算机走进真实世界,物理 AI 不该等到在现实世界里才失败。他的判断是:确保物理 AI 安全,只能靠 AI 去测试 AI。公司目标是帮客户在部署前发现并修复问题,逐步建立一份客户、保险公司和监管机构都能信任的共同证据基础。

公司一年前由 Sun 与首席科学家 Henry Liu 从密歇根大学创立。Sun 过去八年都在学术界研究如何在仿真中挑战自动驾驶 AI。2023 年,他和当时的博士导师 Liu 在该方向发表的论文登上了 Nature 封面,随后陆续有自动驾驶公司来联系他们。Sun 因此决定把学术研究产品化。公司取名 Laplace,来自 1814 年法国学者 Pierre-Simon Laplace 的「拉普拉斯妖」思想实验:如果知道宇宙万物的精确状态,就能以完全精度预测未来。Sun 说,他们本质上是利用仿真预测现实世界的未来。

核心产品是一个从真实世界重建的高保真仿真环境,配上不断探测弱点与失效点的 AI agent。仿真环境基于 Nvidia Cosmos(AI 世界模拟平台)的后训练版本,并以真实世界为基础,可以重建从亚利桑那公路到巴黎人行横道的各种场景。模拟器将不同的真实世界信息混在一起生成:一张 Google Street View 图片就能作为整条街的生成参考;同时结合真实地图数据,按真实比例重建环境。开发者可以用语言提示实时修改场景,比如加入午后交通。公司还会从 TomTom 等导航服务商拉取实时交通和拥堵信息。

在仿真里,不仅环境被模拟,其他交通参与者的行为也被模拟。演示中,Sun 让测试车转向对向车流,本该被它撞上的车(在某些生成式世界模型里可能会被直接穿过的车)主动让开以避免碰撞。他说这是真正的交互式仿真环境,每个人都在对其他事物做出反应,更像是一个有交互参与者的世界模型。真正的差异化在于他们开发的 AI agent 能自动设计 corner cases——那些容易绊倒 AI 系统的罕见棘手场景,把人进一步移出测试循环。这些 agent 可以从新闻、警方事故报告等各种信息中构思场景,主动挑战自动驾驶车和其他物理 AI。

当前自动驾驶开发者通常用录制好的视频转成仿真,或靠人想新点子、设计场景,来训练 AI 处理边缘案例。已有公司如自动驾驶卡车公司 Waabi 开始用 AI 生成边缘案例,但这类技术的大规模需求可能要等通用机器人进入真实世界后才会显现。Sun 说,通用机器人的数据更少,没人知道真实世界的边缘案例会是什么样。

虽然 Sun 和 Liu 来自学术界,没有硅谷大厂的光鲜履历,公司已经开始产生收入,甚至有小幅盈利。收入主要来自自动驾驶场景,客户包括得克萨斯州的自动驾驶卡车公司 Bot Auto 和一家日本大型汽车制造商。公司还在与 Nvidia 和 T-Mobile 合作,为加州圣何塞提供免费智慧城市试点,做高级交通运营;同时也与做仓储人形机器人的伙伴处在早期合作阶段。

目前多数客户合同是项目制,公司正努力转为经常性收入。近期目标是在 TechCrunch Disrupt 的 Startup Battlefield 200 上展示,借此融资并扩大规模,与对手竞争。主要竞争对手是 Applied Intuition,这家后期创业公司累计融资 12 亿美元,投后估值 150 亿美元。Sun 并不太担心。他相信,用 AI 测试 AI 的核心方法论会彻底改变物理 AI 的测试方式,把它变成一个动态交互的测试过程,而这将成为最大的护城河。

Laplace Intelligence red-teams robots and self-driving cars before they hit the real world | TechCrunch

查看原文