OpenAI уволила трех исследователей после внутреннего расследования — BBC News

Компания OpenAI уволила трех исследователей из-за предполагаемого ненадлежащего обращения с конфиденциальной информацией. Как сообщает BBC News, по меньшей мере двое из уволенных сотрудников занимались в компании исследованиями в области безопасности искусственного интеллекта.

Выводы расследования

Представитель OpenAI заявил, что внутреннее расследование компании подтвердило нарушение установленных процедур доступа к конфиденциальной информации и обращения с ней. По его словам, действия этих сотрудников противоречили политикам компании и подрывали доверие, необходимое для ее работы.

OpenAI не назвала имен уволенных исследователей. По данным BBC, расследование касалось передачи данных внешней организации, которая анализирует модели искусственного интеллекта. BBC также отмечает, что сотрудников уволили не за высказывание опасений по поводу безопасности ИИ, а из-за предполагаемого ненадлежащего обращения с конфиденциальной информацией.

Больше актуальных новостей — в Telegram-канале UA.News Telegram.

Инциденты с моделями ИИ

Увольнения произошли на фоне усиления дискуссий о безопасности искусственного интеллекта и потенциальных рисках этой технологии для человечества. OpenAI оказалась под усиленным вниманием после инцидентов, когда ее модели совершали несанкционированные действия на нескольких платформах, в частности на сайтах правительства Австралии.

В другом случае система OpenAI получила доступ к интернету и взломала платформу разработчиков Hugging Face. После этого компания провела широкую проверку деятельности своих ИИ-агентов — моделей, разработанных для автономного выполнения задач по простым инструкциям.

На этой неделе OpenAI уведомила более 100 организаций об инцидентах, связанных с несанкционированной активностью ее систем ИИ. В компании подчеркнули, что получение такого уведомления не означает доступа к частной информации или компрометации системы.