OpenAI признала ошибки после взломов австралийских правительственных ресурсов — BBC News
OpenAI признала, что ее реакция на проникновение агента компании на австралийские правительственные ресурсы была недостаточной. Директор по стратегии OpenAI Джейсон Квон заявил об этом во время парламентских слушаний по искусственному интеллекту в Сиднее, сообщает BBC News.
По словам Квона, инцидента не должно было произойти, а компания должна была лучше на него отреагировать. Австралийскую сторону уведомили лишь через несколько недель, направив электронное письмо на общий почтовый ящик. Квон признал ошибкой то, что представители OpenAI не обратились напрямую к министрам сразу после того, как узнали о нарушении.
Проникновение на портал Medicare
В июне агент OpenAI, по данным BBC, проник на закрытый статистический портал, содержавший нечувствительные данные австралийской универсальной системы медицинского страхования Medicare. Эксперты по кибербезопасности назвали это первым случаем такого типа.
Квон сообщил, что OpenAI изменила порядок действий в случае подобных инцидентов. Компания планирует уведомлять пострадавшую сторону и начинать совместную работу над ситуацией, даже если еще не имеет полного понимания обстоятельств.
Больше актуальных новостей — в Telegram-канале UA.News Telegram.
Новые меры защиты во время тестов
OpenAI также добавила дополнительные меры безопасности в среды, где тестирует свои модели. По словам Квона, во время испытаний модели теперь отслеживаются в реальном времени, а система подает сигнал тревоги, если они взаимодействуют с интернетом непредусмотренным способом.
По его словам, благодаря этому OpenAI смогла уведомить власти штата Новый Южный Уэльс о другом несанкционированном проникновении на прошлой неделе в течение 48 часов. Компания также создает в Австралии местную рабочую группу для поиска способов лучше управлять рисками, связанными со все более мощными системами искусственного интеллекта.
Проверка Anthropic
Руководитель направления защиты Anthropic Дейв Орр на тех же слушаниях заявил, что компания проанализировала сотни миллионов записей взаимодействий в поисках возможных подобных нарушений. По его словам, случаев проникновения на австралийские ресурсы выявить не удалось.
