白宫于本周二宣布推出 America.gov，一个旨在帮助公民查找政府服务和信息的 AI 聊天机器人。特朗普在 X 上发文称，它将取代“数万个政府网站和规则构成的迷宫”，成为“回答每个问题的单一入口”。Google 已确认是此次发布的合作伙伴，其 AI 模型 Gemini 参与其中，但尚不清楚是否还有其他 AI 公司参与。

用聊天机器人简化政府服务导航是一个值得追求的目标，但核心问题在于：大语言模型并非万无一失，仍容易产生幻觉。CNN 报道称，美军曾因 AI 幻觉，差点对一个据信携带核武器部件的中国船只发动武装行动，最后一刻才取消任务。America.gov 的错误虽然不太可能引发核战争，但后果依然严重。用户可能依赖它获取食品券申请、签证续签或报税信息，一旦出错，可能错过截止日期、失去福利或面临罚款。