Anthropic закликала уповільнити розвиток штучного інтелекту через ризик втрати контролю — WSJ
Американська компанія Anthropic, яка розробила один із найпотужніших штучних інтелектів Claude, закликала міжнародну спільноту обговорити можливість уповільнення або тимчасового призупинення створення найсучасніших AI-моделей.
Причиною такого кроку в компанії називають ризик появи систем, здатних самостійно створювати та вдосконалювати власні версії без участі людини. У Anthropic вважають, що розвиток технологій наближається до етапу, коли штучний інтелект може почати рекурсивне самопокращення, що значно ускладнить контроль над його можливостями.
У компанії зазначають, що такий сценарій поки не реалізувався, однак темпи розвитку галузі змушують серйозно ставитися до потенційних ризиків. За даними Anthropic, станом на травень 2026 року понад 80% коду, який потрапляє до робочої виробничої бази компанії, генерується моделлю Claude. Крім того, продуктивність інженерів за останні два роки зросла у вісім разів завдяки використанню штучного інтелекту.
Anthropic пропонує створити міжнародну систему контролю та перевірки, яка дозволить відстежувати дотримання можливих обмежень на розробку найпотужніших AI-моделей. У компанії порівнюють майбутнє регулювання штучного інтелекту з механізмами контролю над стратегічними озброєннями.
Водночас ініціатива викликала дискусії серед представників технологічної галузі. Частина експертів вважає, що посилення регулювання може зміцнити позиції найбільших гравців ринку та створити додаткові бар'єри для менших компаній і проєктів з відкритим кодом.
На тлі стрімкого розвитку штучного інтелекту питання його регулювання дедалі більше виходить за межі технологічної сфери та стає предметом міжнародної політики й безпеки.
Джерело: The Wall Street Journal.
Нагадаємо, російське хакерське угруповання Fancy Bear, яке пов’язують із воєнною розвідкою РФ, зламало понад 280 електронних поштових акаунтів державних і військових установ у країнах НАТО та на Балканах.
До цього хакери отримали доступ до даних сайту бронювання Booking.com, повідомила компанія. Зловмисники змогли отримати інформацію про бронювання клієнтів, а деякі користувачі отримали у неділю електронні листи з повідомленням про можливу витік даних.
