Anthropic: ИИ может самокопироваться на бытовых устройствах к концу 2026 года — Al Jazeera
Исследователи компании Anthropic заявили, что небольшие модели искусственного интеллекта могут в течение нескольких месяцев стать достаточно мощными для самостоятельного копирования на устройствах интернета вещей в домах и малом бизнесе. Речь, в частности, идет о смарт-телевизорах, холодильниках, духовках и газонокосилках, которым для такого распространения не понадобится дата-центр.
О выводах команды компании сообщает Al Jazeera. В отчете Anthropic отмечается, что нынешние модели еще не продемонстрировали способности надежно самовоспроизводиться на смарт-телевизоре, который использовали во время тестирования. В то же время исследователи считают вероятным появление модели, сочетающей достаточную компактность и мощность для этого, до конца 2026 года.
Риск децентрализованного распространения
Команда Anthropic, тестировавшая несколько моделей американской и китайской разработки, указала, что такой ИИ будет сложно отключить из-за отсутствия централизованного узла. Дата-центры могут быть очевидными ценными целями для ИИ-червей, однако подключенные к интернету бытовые устройства также потенциально могут иметь достаточно вычислительных ресурсов для самокопирования.
Больше актуальных новостей — в Telegram-канале UA.News Telegram.
Исследователи Уильям Чжоу и Дэниел Фримен считают, что IoT-устройства в домах и малом бизнесе могут стать первыми целями таких атак, поскольку они подключены к интернету и исторически имели минимальную защиту. По их словам, легковесные ИИ-агенты могут быть значительно более готовы, чем люди-злоумышленники, тратить усилия на компрометацию большой доли мировых IoT-вычислений.
Оценка эксперта и другие заявления компании
Эксперт по ИИ и кибербезопасности Университета Луисвилла Роман В. Ямпольский назвал выводы значимыми. Он отметил, что ИИ-червь, в отличие от традиционного вредоносного программного обеспечения, потенциально может анализировать незнакомые устройства, менять подход после неудачи и распространяться без оператора-человека. В то же время Ямпольский подчеркнул, что сейчас это не представляет экзистенциальной угрозы.
Отдельно Anthropic сообщила о прогрессе в противодействии атакам дистилляции — несанкционированному использованию передовых моделей для обучения более дешевых и менее мощных систем. Компания заявила, что введенные меры сократили незаконное извлечение данных на 90–99%.
