Paul Christiano 加入 OpenAI 基金会董事会

OpenAI 宣布任命 Paul Christiano 加入 OpenAI 基金会董事会,担任非投票观察员,并同时加入基金会下属的安全与安全委员会(SSC),与委员会主席 Zico Kolter 共事。SSC 负责对 OpenAI 全公司(包括 OpenAI Group PBC)的安全与安全实践进行治理。

Paul Christiano 拥有两届美国政府工作经验,曾在 NIST(美国国家标准与技术研究院)下属的 AI 标准与创新中心(CAISI)及其前身美国 AI 安全研究所工作,担任高级技术顾问,期间负责评估前沿 AI 模型(包括涉及国家安全的模型能力)并研究相应的安全风险缓解方法。他还是非营利组织 Alignment Research Center(ARC)的创始人,该机构专注于让高级 AI 系统与人类利益对齐。2017 年至 2021 年间,他曾在 OpenAI 领导对齐研究,是强化学习从人类反馈(RLHF)的基础贡献者之一。

OpenAI 在公告中强调,AI 正进入能力新阶段,安全、安保、对齐和治理变得愈发重要。Christiano 的研究视角正视先进 AI 可能带来灾难性风险的可能性,并主张开发者必须在系统达到更危险能力水平之前做好准备。他一直是行业防护措施是否充分的独立声音。OpenAI 认为,愿意挑战主流假设、强化关键决策背后的证据与问责机制的人,能让基金会治理更加强健。

OpenAI 基金会是一家独立的慈善非营利组织,其目标是通过负责任 AI 确保 AI 惠及全人类。它开展自身慈善业务,同时控制 OpenAI Group PBC 并持有其重要股权,并通过资助、合作及其他公益举措支持科学发现、公民社会强化和韧性建设。

Paul Christiano joins OpenAI Foundation Board

查看原文