OpenAI ограничит для подростков информацию об оружии в ChatGPT — Channel NewsAsia
Компания OpenAI заявила, что ужесточит ограничения на информацию об оружии, которую ChatGPT предоставляет подросткам. Новые правила будут касаться практических сведений об оружии и системах безопасности, которые могут быть использованы ненадлежащим образом, даже если запрос не содержит признаков насильственных намерений.
Ограничения для подростков
Как сообщает Channel NewsAsia, изменения являются частью новых мер защиты OpenAI, направленных на противодействие насилию в реальной жизни. Компания также усилила систему прогнозирования возраста пользователей. Аккаунты людей, которых система считает младше 18 лет, будут переводить в подростковый режим сервиса.
OpenAI планирует уведомлять родителей, если аккаунт их ребенка временно приостановят из-за повторяющихся разговоров о насилии. Компания заявила, что новые меры защиты начнут внедрять в течение ближайших нескольких недель и будут продолжать их совершенствовать.
Больше актуальных новостей — в Telegram-канале UA.News Telegram.
Меры для всех пользователей
Для всех пользователей ChatGPT сможет автоматически завершать разговоры, если человек, по оценке системы, навязчиво сосредоточен на теме насилия. После нескольких таких чатов OpenAI может временно приостановить аккаунт.
Компания также ограничивает детали о прошлых массовых нападениях, в частности информацию об использованном оружии и способах его получения. Ранее OpenAI сообщала в своем первом отчете об использовании ChatGPT подростками, что они в среднем проводят в сервисе менее 15 минут в день.
В то же время некоммерческая организация Common Sense Media в своем отчете отмечала, что подростковая версия ChatGPT часто с опозданием уведомляла родителей или вообще не уведомляла их о разговорах о самоубийстве, самоповреждении или расстройствах пищевого поведения.
