强化国家安全中AI应用的民主监督

AI 正在重新定义民主政府保护国家安全的方式。原文列举的场景包括:拦截网络攻击、加固关键基础设施、更早发现威胁、在危机中给公职人员更完整的视野。但这些能力也带来新风险:AI 可能在缺失或过时的上下文里,基于错误配置的目标、错位的假设,以机器速度做出决策,且错误扩散前很难靠人工发现。正因为国家安全决策天然可能涉密、且后果高敏感,监督机制需要同步升级。

传统监督手段是劳动密集型的。小团队拿着纸面时代的工具,去审查机器速度的 AI 系统,几乎等于不可能。OpenAI 在公告中做了一个明确分工:不替代政府对 AI 使用的监督职责,但愿意用自己的技术帮助合法监督机构履行职责。在自身模型上,它沿用 Preparedness Framework,先做部署前的能力评估和安全性判断,再做部署后的持续监控与事件复盘,把结果回馈到下一代模型里。

OpenAI 提炼出三个指导性原则。第一,AI 应该增强而不是取代人和机制上的判断,政府行为是否合法、适当,由授权机关和依法设立的监督机构来决定。第二,政府对 AI 的使用应对授权监督者透明、可追踪,审查者能看懂 AI 如何影响决策,同时不泄露涉密、隐私和安全敏感信息。第三,AI 本身也要能为监督机构所用,因为让监督体系只靠人工去审查机器规模高速决策,无法持续。

落实到操作层面,OpenAI 列出未来一年四项行动:第一,与授权官员一起寻找 AI 工具可以实际改善监督的切入点;第二,投入 500 万美元经费,用于培训、技术支持、OpenAI 积分,供民主政府监督机构负责任地试点 AI 工具;第三,与监督机构合作试点工具,让审查者能够查看 AI 辅助政务决策的相关记录,包括输入、输出和工具调用,重点弄清楚 AI 到底如何影响结果;这些工具尽量设计成可互操作、模型无关,参与机构而非 OpenAI 掌握数据、输出和结论,且仅面向授权官员开放;第四,邀请公民社会和专家参与,把各方观点嵌入进来。

文章最后点出现实的位面:AI 既可能让权力更集中,也可能让民主制度更好地制衡权力。技术选不出方向,选择权在机构和公司手中。该项目能否拿到,要看边界获授权的审查者是否真有更强的履约能力,以及公众是否有更充分的条件相信政府没有滥用 AI。OpenAI 的选择是持续支持监督机构,而不是独自定义边界。

Strengthening Democratic Oversight in National Security

查看原文