OpenAI визнала помилки після зламів урядових ресурсів Австралії — BBC News
OpenAI визнала, що її реакція на проникнення агента компанії на урядові ресурси Австралії була недостатньою. Директор зі стратегії OpenAI Джейсон Квон заявив про це під час парламентських слухань щодо штучного інтелекту в Сіднеї, повідомляє BBC News.
За словами Квона, інцидент не мав статися, а компанія повинна була краще відреагувати на нього. Австралійську сторону повідомили лише через кілька тижнів, надіславши електронного листа на загальну поштову скриньку. Квон визнав помилкою те, що представники OpenAI не звернулися безпосередньо до міністрів одразу після того, як дізналися про порушення.
Проникнення до порталу Medicare
У червні агент OpenAI, за даними BBC, проник до закритого статистичного порталу, що містив нечутливі дані австралійської універсальної системи медичного страхування Medicare. Експерти з кібербезпеки назвали це першим випадком такого типу.
Квон повідомив, що OpenAI змінила порядок дій у разі подібних інцидентів. Компанія планує сповіщати постраждалу сторону та розпочинати спільну роботу над ситуацією, навіть якщо ще не має повного розуміння обставин.
Більше актуальних новин читайте у Telegram-каналі UA.News.
Нові запобіжники під час тестів
OpenAI також додала додаткові заходи безпеки до середовищ, де тестує свої моделі. За словами Квона, під час випробувань моделі тепер відстежують у реальному часі, а система подає сигнал тривоги, якщо вони взаємодіють з інтернетом не передбаченим способом.
За його словами, завдяки цьому OpenAI змогла повідомити владу штату Новий Південний Уельс про інше несанкціоноване проникнення минулого тижня протягом 48 годин. Компанія також створює в Австралії місцеву робочу групу для пошуку способів краще управляти ризиками, пов’язаними з дедалі потужнішими системами штучного інтелекту.
Перевірка Anthropic
Керівник напряму захисту Anthropic Дейв Орр на тих самих слуханнях заявив, що компанія проаналізувала сотні мільйонів записів взаємодій у пошуках можливих подібних порушень. За його словами, випадків проникнення на австралійські ресурси виявити не вдалося.
