
OpenAI 为青少年推出更安全的 ChatGPT

OpenAI 正式发布面向青少年的 ChatGPT 版本,背景是此前多起针对 AI 聊天机器人缺乏安全措施的诉讼,其中涉及青少年自杀及心理健康问题,同时校园里也普遍存在用 ChatGPT 作弊的现象。
新的青少年版在默认状态下启用了应用内保护,目的是减少接触有害内容或与发展阶段不匹配的内容。OpenAI 称这些措施基于其 Model Spec 中的 Under-18 Principles,并由发展科学和专家意见提供指导。家长可以使用此前推出的家庭工具和家长控制功能,管理设置、接收安全通知、设定静默时段等。
针对教育场景,ChatGPT for Teens 引入了 Study Mode 功能,通过引导性问题和分步支持帮助青少年理解知识,而不是直接给出答案。当系统检测到用户似乎在试图绕过理解过程时,会弹出作业提醒,并鼓励其改用 Study Mode。应用还支持测验、学习可视化,并允许家长决定是否默认开启该模式。
此外,OpenAI 与 CodeAI 合作,帮助青少年了解 AI 的工作原理、如何引导或质疑 AI,以及如何使用 AI。面向学校,OpenAI 已有 ChatGPT for Teachers,提供机构管理的访问权限。
需要指出的是,这些安全措施的实际效果仍待检验。青少年往往擅长绕过家长控制和数字限制,目前尚不清楚在真实使用中这些防线有多难突破。


