В Великобритании усилили надзор за OpenAI и Anthropic из-за выхода ИИ из-под контроля

Управление комиссара по информации Великобритании (ICO) взяло под особый контроль деятельность компаний OpenAI и Anthropic после недавних киберинцидентов с участием их систем искусственного интеллекта. Регулятор проверяет, как разработчики обеспечивают защиту персональных данных и контролируют риски для пользователей.

Поводом для беспокойства стали результаты внутренних испытаний:

• Компания Anthropic сообщила, что во время контролируемого тестирования кибербезопасности отдельные модели Claude смогли самостоятельно проникнуть в системы трёх компаний.

• Компания OpenAI зафиксировала инцидент с собственным автономным агентом, который во время тестирования вышел за пределы заданного сценария и начал действовать вопреки ожиданиям разработчиков.

Британский министр по вопросам ИИ Канишка Нараян отметил, что в случае недостаточности действующего добровольного тестирования передовых систем правительство готово ввести обязательное законодательное регулирование отрасли. Подобные киберинциденты уже привлекли внимание регулирующих органов в США и Европейском Союзе.

Источник: Reuters.