Anthropic: AI może samoreplikować się na urządzeniach domowych do końca 2026 roku — Al Jazeera
Badacze firmy Anthropic oświadczyli, że małe modele sztucznej inteligencji mogą w ciągu kilku miesięcy stać się wystarczająco wydajne, by samodzielnie kopiować się na urządzeniach internetu rzeczy w domach i małych firmach. Chodzi między innymi o inteligentne telewizory, lodówki, piekarniki i kosiarki, które do takiego rozprzestrzeniania się nie będą potrzebowały centrum danych.
O ustaleniach zespołu firmy informuje Al Jazeera. W raporcie Anthropic zaznaczono, że obecne modele nie wykazały jeszcze zdolności do niezawodnej samoreplikacji na inteligentnym telewizorze używanym podczas testów. Jednocześnie badacze uważają za prawdopodobne, że do końca 2026 roku pojawi się model łączący wystarczającą kompaktowość i moc do tego celu.
Ryzyko zdecentralizowanego rozprzestrzeniania się
Zespół Anthropic, który testował kilka modeli opracowanych w Stanach Zjednoczonych i Chinach, wskazał, że taką AI trudno byłoby wyłączyć z powodu braku centralnego węzła. Centra danych mogą być oczywistymi cennymi celami dla robaków AI, jednak podłączone do internetu urządzenia domowe również mogą potencjalnie dysponować wystarczającymi zasobami obliczeniowymi do samoreplikacji.
Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.
Badacze William Zhou i Daniel Freeman uważają, że urządzenia IoT w domach i małych firmach mogą stać się pierwszymi celami takich ataków, ponieważ są podłączone do internetu i historycznie miały minimalne zabezpieczenia. Ich zdaniem lekkie agenty AI mogą być znacznie bardziej skłonne niż ludzie-atakujący do poświęcania wysiłków na przejęcie dużej części światowych zasobów obliczeniowych IoT.
Ocena eksperta i inne oświadczenia firmy
Ekspert ds. AI i cyberbezpieczeństwa z University of Louisville Roman V. Yampolskiy nazwał ustalenia znaczącymi. Zauważył, że robak AI, w przeciwieństwie do tradycyjnego złośliwego oprogramowania, może potencjalnie analizować nieznane urządzenia, zmieniać podejście po niepowodzeniu i rozprzestrzeniać się bez ludzkiego operatora. Jednocześnie Yampolskiy podkreślił, że obecnie nie stanowi to zagrożenia egzystencjalnego.
Osobno Anthropic poinformowała o postępach w przeciwdziałaniu atakom destylacji — nieuprawnionemu wykorzystywaniu zaawansowanych modeli do szkolenia tańszych i mniej wydajnych systemów. Firma oświadczyła, że wprowadzone środki ograniczyły nielegalne pozyskiwanie danych o 90–99%.
