Anthropic призвала замедлить развитие искусственного интеллекта из-за риска потери контроля — WSJ
Американская компания Anthropic, разработавшая одну из самых мощных систем искусственного интеллекта Claude, призвала международное сообщество обсудить возможность замедления или временной приостановки разработки самых современных моделей ИИ.
Причиной такого шага в компании называют риск появления систем, способных самостоятельно создавать и совершенствовать собственные версии без участия человека. В Anthropic считают, что развитие технологий приближается к этапу, когда искусственный интеллект может начать рекурсивное самосовершенствование, что значительно затруднит контроль над его возможностями.
В компании отмечают, что такой сценарий пока не реализовался, однако темпы развития отрасли заставляют серьезно относиться к потенциальным рискам. По данным Anthropic, по состоянию на май 2026 года более 80% кода, попадающего в рабочую производственную базу компании, генерируется моделью Claude. Кроме того, производительность инженеров за последние два года выросла в восемь раз благодаря использованию искусственного интеллекта.
Anthropic предлагает создать международную систему контроля и проверки, которая позволит отслеживать соблюдение возможных ограничений на разработку самых мощных AI-моделей. В компании сравнивают будущее регулирование искусственного интеллекта с механизмами контроля над стратегическими вооружениями.
В то же время инициатива вызвала дискуссии среди представителей технологической отрасли. Часть экспертов считает, что усиление регулирования может укрепить позиции крупнейших игроков рынка и создать дополнительные барьеры для меньших компаний и проектов с открытым кодом.
На фоне стремительного развития искусственного интеллекта вопрос его регулирования все больше выходит за пределы технологической сферы и становится предметом международной политики и безопасности.
Источник: The Wall Street Journal.
Напомним, российская хакерская группировка Fancy Bear, которую связывают с военной разведкой РФ, взломала более 280 электронных почтовых аккаунтов государственных и военных учреждений в странах НАТО и на Балканах.
До этого хакеры получили доступ к данным сайта бронирования Booking.com, сообщила компания. Злоумышленники смогли получить информацию о бронированиях клиентов, а некоторые пользователи получили в воскресенье электронные письма с уведомлением о возможной утечке данных.
