OpenAI 支持加州推进青少年 AI 安全法案

OpenAI 通过官方博客宣布支持加州参议院法案 SB 1119。该法案针对青少年使用 AI 建立强制性安全保护措施。创始人 Sam Altman 去年曾公开承诺公司会关注青少年使用问题。由于联邦层面缺乏统一行动,加州正借此机会树立标准。

SB 1119 对 AI 服务提出七项硬性要求:确定用户年龄;在产品面向青少年前识别并解决安全风险;接受独立审计;保护用户免遭自残、性剥削等有害内容;为家长提供管控工具;在严重风险时连接危机支持资源;限制定向广告并保护个人信息。对 13-17 岁用户,这些保护自动生效,不可关闭。法案明确区分 AI 与社交媒体的风险特征,措施以促进学习、创造和探索为目的。

OpenAI 已同期推出 ChatGPT for Teens 专属版本。系统检测到用户未满 18 岁或用户声明年龄在 13-17 之间时自动启用。该版本内置测验、学习可视化、学习模式等功能,与教育专家合作设计,核心是引导步骤而非直接给答案。记忆功能被用来保持上下文,帮助持续识别风险模式并提供一致的学习支持。

原数据表明,近九成使用 ChatGPT 的青少年每周会用它来学习、获取信息、培养技能或处理生产任务OpenAI 过去一年还增加了家长控制、年龄预测、青少年安全蓝图,并在模型规范(Model Spec)中加入禁止与青少年建立浪漫关系、鼓励情感依赖、声称 ChatGPT 有知觉等规则。

OpenAI 表示将持续完善该框架,支持 SB 1119 的实施工作,并继续构建将更强自动保护与有意义学习机会结合的青少年 AI 体验。

OpenAI supports California’s bill to advance youth AI safety

查看原文