Сотрудники OpenAI годами предупреждали о пробелах в безопасности — NDTV
В США сотрудники OpenAI ещё до запуска ChatGPT в конце 2022 года предупреждали руководство и совет директоров о недостатках внутренней безопасности, сообщает NDTV со ссылкой на пятерых осведомлённых собеседников. Некоторые сотрудники после таких обращений считали, что менеджмент был больше сосредоточен на конкуренции с Google и Anthropic, чем на защите технологий.
Доступ к внутренним разработкам
По словам источников, сотрудники с доступом к исходному коду OpenAI могли видеть технические детали многих проектов, в том числе не связанных с их работой. Большую часть кода компания хранила в одном крупном репозитории — монорепозитории. Сотрудники опасались, что при таких условиях посторонние лица, в том числе иностранные правительства, могли бы относительно легко получить конфиденциальную информацию.
OpenAI заявила, что наиболее чувствительные разработки хранятся в отдельных репозиториях со строгим контролем доступа. Компания также отметила, что монорепозиторий не содержит всего её кода или критически важной информации о моделях, в том числе весовых параметров.
Дело о записывающем устройстве
13 октября Министерство юстиции США сообщило об аресте 35-летнего гражданина Саудовской Аравии Абдулрахмана Альфозана, который на тот момент был инженером OpenAI. Ему предъявили обвинение в установке скрытого устройства для аудиозаписи в комнате для совещаний руководства; согласно судебному документу, устройство спрятали в туалетной бумаге.
Больше актуальных новостей — в Telegram-канале UA.News Telegram.
Согласно судебным материалам, Альфозан также использовал предназначенный для сотрудников OpenAI инструмент ИИ, чтобы найти внутреннюю документацию о поездках руководителей в Саудовскую Аравию и должностных лицах, которые могли посещать встречи с саудовскими министрами. Его адвокаты не ответили на запрос о комментарии.
Усиление защиты
По информации двух собеседников, старший руководитель по разработке продуктов Тибо Соттьо возглавил внутреннюю инициативу по защите систем OpenAI. В августе он, по словам одного из источников, переназначил четверть инженеров производственного направления для улучшения инфраструктуры безопасности.
OpenAI сообщила, что сейчас регулярно проверяет безопасность внутренних инструментов. Компания заявила об усилении защиты от атак инсайдеров, киберпреступников и государственных структур, а также о подготовке следующего внутреннего этапа усиления кибербезопасности.
