Startupy opracowują narzędzia do weryfikacji porozumień USA i Chin w sprawie AI — South China Morning Post

Przed planowanym w Waszyngtonie w USA spotkaniem prezydenta USA Donalda Trumpa i prezydenta Chin Xi Jinpinga badacze oraz startupy opracowują technologie, które mogą pomóc weryfikować realizację potencjalnych porozumień dotyczących ograniczania rozwoju sztucznej inteligencji. Narzędzia te mają umożliwić rządom i stronom trzecim sprawdzanie określonych informacji o trenowaniu i wykorzystywaniu modeli AI, być może bez bezpośredniego dostępu do samych modeli lub infrastruktury obliczeniowej, informuje South China Morning Post.

Co proponuje się weryfikować

Tom Milton, współzałożyciel brytyjskiej firmy konsultingowej Amodo Design, wskazał dwa kluczowe pytania dla możliwego międzynarodowego porozumienia między Waszyngtonem a Pekinem. Chodzi o sprawdzenie, czy centrum danych trenuje nowy model, czy jedynie obsługuje już utworzony, a także o potwierdzenie, że wdrożony model odpowiada temu zadeklarowanemu.

Według Miltona obsługa już utworzonego modelu, czyli inferencja, różni się od trenowania nowego modelu. Rządy mogą również dążyć do weryfikacji, czy centrum danych w innym kraju wykorzystuje model uznawany za bezpieczny, a nie potencjalnie niebezpieczny system.

Autorzy otwartego listu reprezentujący 20 krajów wezwali do utworzenia międzynarodowego organu zarządzającego, który mógłby prowadzić weryfikację AI. Jednocześnie w liście nie sprecyzowano, w jaki dokładnie sposób miałoby się to odbywać.

Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.

Testowanie technologii

Jedną z proponowanych metod nazywa się ponownym obliczeniem. Polega ona na sprawdzeniu wyniku AI poprzez wykonanie takiego samego obliczenia w innym systemie, z identycznymi danymi wejściowymi i ustawieniami. Według Machine Intelligence Research Institute wyposażenie centrów danych w takie narzędzia może kosztować jedynie niewielką część początkowych nakładów na obiekt, a koszty obliczeń można zmniejszyć dzięki sprawdzaniu losowej próbki aktywności.

Lucid Computing na początku miesiąca rozpoczęła 18-miesięczne testy swojego rozwiązania na klastrze 16 chipów Nvidia H100 w Szwecji, udostępnionym przez państwowy instytut badawczy RISE. Amodo Design prowadzi rozmowy w sprawie rozszerzenia testów do klastra z 128 procesorami graficznymi. Milton przyznał, że rozwiązania te nadal wymagają sprawdzenia w skali zaawansowanych centrów danych, w których może być zainstalowanych ponad milion procesorów graficznych.

Podejście kryptograficzne

Izraelski startup Attestable, który w ubiegłym miesiącu pozyskał 20 mln dolarów finansowania zalążkowego, stosuje dowody z wiedzą zerową. Firma proponuje wykorzystanie tej technologii kryptograficznej do weryfikacji, że odpowiedzi na zapytanie udzielił właśnie określony model AI, bez ujawniania informacji o bazowym modelu lub danych.

Lucid Computing, Amodo Design i Singapore AI Safety Hub zadeklarowały zamiar publikowania wyników swoich badań. Według Connora Dunlopa, szefa polityki i strategii w Lucid, nad technologiami weryfikacji AI pracuje na świecie około 50 osób.