ChatGPT начнет выявлять экстремистов среди пользователей
OpenAI запускает систему, которая будет автоматически выявлять пользователей с признаками экстремистских намерений в их запросах. Это решение принято в ответ на критику в адрес искусственного интеллекта за неспособность своевременно предотвращать проявления радикализма.
Критика компаний, разрабатывающих искусственный интеллект, усилилась после того, как в Канаде пользователь ChatGPT, заблокированный за экстремистские запросы, устроил стрельбу в школе. Власти не получили никаких сообщений о подозрительной активности на платформе, что вызвало обеспокоенность по поводу безопасности.
Нововведение от OpenAI призвано повысить уровень безопасности, снизить риски использования технологий для радикализации и повысить ответственность при работе с контентом.
OpenAI — ведущая компания в области искусственного интеллекта, основанная в 2015 году, которая разрабатывает передовые модели генерации текста и других мультимедийных материалов. Ее продукты широко применяются в различных сферах, от бизнеса до образования.
Это нововведение может стать новым стандартом в борьбе с экстремизмом в интернете и поможет создать более безопасную цифровую среду.
Учитывая растущие вызовы безопасности, дальнейшее развитие таких систем, вероятно, приведет к еще более жесткому контролю за потенциально вредоносным контентом и пользователями.
Также мы писали, что рост сокращений в технологическом секторе США в 2024 году
