OpenAI 宣布两项社区安全新动作：一份新的 Community Safeguards Report，以及针对未成年人枪支内容的更严格限制。OpenAI 称 ChatGPT 已是全球使用最广的 AI 产品之一，并称其投入建设了行业较先进的危害检测、可疑行为审查和威胁升级系统。为说明这项工作，OpenAI 表示 2026 年第三季度向执法部门转介了超过 200 起事件，并称这些转介正在帮助瓦解暴力计划；它同时依赖心理健康和行为专家评估疑难案例。

社区安全报告方面，OpenAI 承诺发布一份聚焦暴力预防及其他社区安全问题的定期报告，解释系统如何被训练来检测、调查和响应社区安全问题，分享匿名案例、新缓解措施与政策变化，并附相关数据。第一份报告计划于 2027 年初发布，覆盖 2026 年下半年，此后每半年更新一次。

政策边界也被收紧：模型本来就训练为不提供策划或实施暴力的指令；新限制进一步约束 ChatGPT 对过去大规模袭击及其实施者的问题的回答，即使这些信息能从其他网络来源获得，也会提供更少细节。用户仍可询问事件影响、受害者与社区受到的伤害、如何识别警示信号和预防未来暴力；但涉及重建袭击过程、武器与装备细节及其获取方式、可能放大施暴者知名度的伤害规模比较，会被限制。这些限制不因用户年龄或提问理由而改变。

在预警信号方面，OpenAI 曾在 5 月说明，ChatGPT 可以利用早期对话的简短事实摘要，在后续聊天中更谨慎地回应。现在 ChatGPT 在近期聊天出现可能暴力的警示信号时，会以更保守的方式分享可能被滥用的信息；当系统预测用户未满 18 岁时，即使聊天没有暴力意图，也会套用这些更严格限制。OpenAI 会封禁违反暴力活动政策的账户，并与心理健康和暴力预防专家合作增加自动化早期干预。当对话显示某人正在执念于暴力或严重伤害他人，ChatGPT 可自动结束对话，以打断这一模式；若多次因此结束对话，账户可能被暂时暂停。

针对青少年的保护也在加强。ChatGPT for Teens 本已对 18 岁以下用户设置与年龄适配的安全措施；新限制进一步减少青少年可获得的武器相关信息，即使问题看起来无害。原有政策禁止协助策划暴力、禁止帮助青少年寻找或获取武器；现在扩展到限制可能被滥用以实施暴力的武器与安全系统实用信息，即使没有显示暴力意图。青少年仍可让 ChatGPT 帮助预防和缓和暴力、寻求支持，或联系可信赖的成年人。

年龄预测功能于去年上线，通过行为模式等信号判断用户是否成年。OpenAI 称已强化该系统，使其在用户使用中持续评估新信号，并在适当时将用户移入 18 岁以下体验。被错误放入低龄体验的用户，可通过年龄验证合作方 Persona 快速确认成人身份并移除青少年保护。家长控制方面，家长可将账户与青少年链接，共同管理安全设置；链接账户的安全提醒覆盖严重自伤风险及可能涉及进食障碍的行为。7 月起，若青少年账户因违反暴力使用政策被停用，家长会收到通知；OpenAI 还在推进当青少年因多次讨论暴力导致账户暂停时通知家长。

这些安全措施将在接下来几周开始逐步上线，并持续完善。OpenAI 在公告最后表示，现实世界中的暴力复杂且由多种因素导致，AI 暴力防护需要解决识别风险和适当响应等新问题。