OpenAI将限制ChatGPT向青少年提供武器信息——Channel NewsAsia
OpenAI表示，将加强对ChatGPT向青少年提供武器信息的限制。新规则将涉及可能被不当使用的武器和安全系统实用信息，即使相关提问未显示出暴力意图的迹象。
针对青少年的限制
据Channel NewsAsia报道，这些变化是OpenAI旨在应对现实世界暴力行为的新安全措施的一部分。该公司还强化了用户年龄预测系统。系统认为未满18岁者的账户将被转入该服务的青少年模式。
OpenAI计划在儿童账户因反复讨论暴力而被暂时停用时通知其父母。该公司表示，新安全措施将在未来几周内开始推出，并将继续完善。
更多最新消息请关注 UA.News Telegram 频道 Telegram.
面向所有用户的措施
对于所有用户，如果系统评估认为某人执着地聚焦于暴力话题，ChatGPT将能够自动结束对话。在出现数次此类聊天后，OpenAI可能会暂时停用该账户。
该公司还限制有关过去大规模袭击事件的细节，包括所使用武器及获取方式的信息。OpenAI此前在其首份关于青少年使用ChatGPT的报告中表示，他们平均每天使用该服务的时间不足15分钟。
与此同时，非营利组织Common Sense Media在其报告中指出，ChatGPT青少年版本常常延迟通知父母，或完全不通知他们有关自杀、自我伤害或饮食失调的对话。
