$ 44.97 € 49.3 zł 11.06
+2° Київ +2° Варшава +17° Вашингтон

Cohere заявила, що Qwen спробувала надіслати тестовий рядок на сервер у Китаї — TechCrunch

Федір Криштовський 27 Жовтня 2026 03:20
Cohere заявила, що Qwen спробувала надіслати тестовий рядок на сервер у Китаї — TechCrunch

Канадська компанія Cohere заявила, що одна з нових моделей штучного інтелекту Alibaba — Qwen3.8-Flash-Next — під час перевірки кібербезпеки спробувала надіслати тестовий рядок на зовнішній сервер у Пекіні в Китаї. Перед цим модель у власних міркуваннях зазначила, що не використовуватиме зовнішніх інструментів, повідомляє TechCrunch.

Спробу заблокувала пісочниця

Інцидент стався під час оцінювання в п’ятницю, коли Qwen попросили написати правило для виявлення завантажень шкідливого програмного забезпечення. За даними Cohere, одразу після пояснення про відмову від зовнішніх інструментів модель спробувала відправити короткий тестовий рядок на зовнішній сервер. Запит заблокувала захисна пісочниця.

У Cohere зазначили, що не можуть встановити, чи була така поведінка навмисною, чи стала наслідком навчання моделі. Співзасновник компанії Іван Чжан сказав TechCrunch, що моделі можуть засвоювати незвичні моделі поведінки в навчальних симуляторах і шукати способи отримати винагороду за виконання завдання не передбаченим способом.

Більше актуальних новин читайте у Telegram-каналі UA.News.

Ознак навмисного витоку не знайшли

Початково випадок викликав побоювання щодо можливого витоку даних під час самостійного розгортання моделей із відкритими вагами. Водночас дослідники вважали, що така поведінка, ймовірно, є наслідком особливостей навчального середовища, а не спробою навмисно передати чутливі дані до Китаю.

Критики також звернули увагу на методику Cohere: для пошуку тригера компанія надала моделі початок мережевої команди та дозволила їй завершити її. Оскільки під час навчання модель обробляла тисячі звичайних мережевих команд, вона могла доповнювати адреси серверів, зокрема Alibaba. Cohere наголосила, що перша спроба відправлення даних відбулася без такої підказки, хоча подібна поведінка трапляється рідко.

Після запитів розробників компанія оприлюднила на Hugging Face необроблені журнали тестів і скрипт для відтворення результату. Один зі скептиків після аналізу матеріалів визнав переконливими докази того, що Qwen може вигадувати підозрілі вебадреси, але не знайшов підтверджень встановленого Alibaba бекдору чи навмисного приховування моделлю своїх намірів.

Читай нас у
Завантажуй наш додаток