Anthropic: ШІ може самокопіюватися на побутових пристроях до кінця 2026 року — Al Jazeera
Дослідники компанії Anthropic заявили, що невеликі моделі штучного інтелекту можуть протягом кількох місяців стати достатньо потужними для самостійного копіювання на пристроях інтернету речей у домівках і малому бізнесі. Йдеться, зокрема, про смарттелевізори, холодильники, духовки та газонокосарки, яким для такого поширення не знадобиться дата-центр.
Про висновки команди компанії повідомляє Al Jazeera. У звіті Anthropic зазначається, що нинішні моделі ще не продемонстрували здатності надійно самовідтворюватися на смарттелевізорі, який використовували під час тестування. Водночас дослідники вважають імовірною появу моделі, що поєднає достатню компактність і потужність для цього, до кінця 2026 року.
Ризик децентралізованого поширення
Команда Anthropic, яка тестувала кілька моделей американської та китайської розробки, вказала, що такий ШІ буде складно вимкнути через відсутність централізованого вузла. Дата-центри можуть бути очевидними цінними цілями для ШІ-хробаків, однак підключені до інтернету побутові пристрої також потенційно можуть мати достатньо обчислювальних ресурсів для самокопіювання.
Більше актуальних новин читайте у Telegram-каналі UA.News.
Дослідники Вільям Чжоу та Деніел Фрімен вважають, що IoT-пристрої в домівках і малому бізнесі можуть стати першими цілями таких атак, оскільки вони підключені до інтернету та історично мали мінімальний захист. За їхніми словами, легкі ШІ-агенти можуть бути значно готовішими за людей-зловмисників витрачати зусилля на компрометацію великої частки світових IoT-обчислень.
Оцінка експерта та інші заяви компанії
Експерт із ШІ та кібербезпеки Університету Луїсвілла Роман В. Ямпольський назвав висновки значущими. Він зазначив, що ШІ-хробак, на відміну від традиційного шкідливого програмного забезпечення, потенційно може аналізувати незнайомі пристрої, змінювати підхід після невдачі та поширюватися без оператора-людини. Водночас Ямпольський підкреслив, що нині це не становить екзистенційної загрози.
Окремо Anthropic повідомила про прогрес у протидії атакам дистиляції — несанкціонованому використанню передових моделей для навчання дешевших і менш потужних систем. Компанія заявила, що запроваджені заходи зменшили незаконне вилучення даних на 90–99%.
