OpenAI扩大ChatGPT家长通知范围,青少年暴力违规将触发提醒

2026年07月21日 16:16
本文共计483个字,预计阅读时长2分钟。
来源/aibase 责编/LehuoChufang 乐活厨房

OpenAI宣布扩大ChatGPT家长通知功能,当青少年用户因违反暴力威胁或网络暴力政策被封号时,已关联账号的父母和监护人将收到提醒。

此前,OpenAI推出家长控制功能,支持家长关联未成年子女账号,设置使用限制、减少敏感内容,并在发现自残风险时发送警示。此次升级后,系统将进一步覆盖可能伤害他人的风险行为。

QQ20260721-160534.jpg

该功能由OpenAI与网络暴力监测机构Moonshot共同开发。Moonshot表示,在严重风险出现时及时通知家长,有助于家庭尽早介入并采取措施。

OpenAI此次强化安全机制,也与AI使用风险争议有关。2025年加拿大枪击事件调查发现,嫌疑人曾使用ChatGPT,OpenAI随后承诺加强安全措施。

此外,OpenAI还在家长控制页面加入“学习模式”,通过提示引导学生思考,而非直接提供答案;针对青少年长时间使用ChatGPT的情况,系统也将增加休息提醒。

随着AI助手进入教育等场景,未成年人安全使用成为行业重点议题,OpenAI正在通过监管工具和交互设计提升AI产品的安全性。

来源:OpenAI扩大ChatGPT家长通知,青少年暴力违规将触发提醒 | AIbase

声明:本文来自aibase,版权归作者所有。文章内容仅代表作者独立观点,不代表爱力方立场,转载目的在于传递更多信息。如有侵权,请联系 copyright#agent.ren。

相关图文

热门资讯