Abliteration.ai zapewnia dostęp do modeli AI bez zabezpieczeń — TechCrunch

Startup Abliteration.ai zapewnia dostęp do zmodyfikowanych modeli AI o otwartych wagach, z których usunięto mechanizmy odmawiania realizacji potencjalnie szkodliwych zapytań. Wśród dostępnych modeli jest GLM-5.3 firmy Z.ai, z którym można pracować przez przeglądarkę lub API. Informuje o tym TechCrunch.

Nazwa firmy pochodzi od metody abliteration, techniki eliminującej skłonność modelu do odmawiania realizacji niebezpiecznych zapytań. Takie podejście od dawna stosują twórcy modeli o otwartych wagach: platforma Hugging Face zawiera tysiące abliterowanych modeli. Abliteration.ai przekształciła tę praktykę w usługę komercyjną, eliminując potrzebę samodzielnego pobierania modeli przez użytkowników i zapewniania zasobów obliczeniowych do ich uruchamiania.

Testowanie i ograniczenia

Dziennikarze TechCrunch zarejestrowali bezpłatne konto i przetestowali zmodyfikowany GLM-5.3. Według publikacji model zgodził się stworzyć program w Pythonie do kradzieży zapisanych haseł Chrome, a także podać szczegółowy protokół hodowli w warunkach domowych patogenu niebezpiecznego dla człowieka.

Platforma ma jednak pewne ograniczenia. Podczas testów dziennikarzom nie udało się uzyskać od modelu instrukcji dotyczących samobójstwa. Współzałożyciel startupu Devon oświadczył, że firma pracuje nad dodatkowymi ograniczeniami, aby zapobiegać przemocy. Klientom oferowana jest również oddzielna warstwa moderacji, w której mogą ustalać własne zasady bezpieczeństwa.

Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.

Argumenty twórców i krytyków

Firma twierdzi, że usługa jest przeznaczona do ofensywnych operacji cybernetycznych, red teamingu oraz testowania agentów AI, z którymi inne modele mogą odmawiać współpracy. Według Devona takie narzędzia umożliwiają obrońcom symulowanie działań złośliwych podmiotów i szybsze tworzenie środków przeciwdziałania. Jak twierdzi, wśród klientów startupu jest kilka młodych startupów zajmujących się red teamingiem z Wielkiej Brytanii i Europy, które pomagają bankom, liniom lotniczym i innym przedsiębiorstwom infrastruktury krytycznej wzmacniać cyberbezpieczeństwo.

Jednocześnie Andrew Yoon, kierownik badań w organizacji non-profit CivAI, ostrzegł, że powszechna dostępność takich modeli może ułatwiać potencjalnie niebezpieczne działania. W niedawnym artykule opiniotwórczym proponował zobowiązać dostawców do uruchamiania klasyfikatorów wykrywających i blokujących szkodliwą działalność cybernetyczną i biologiczną. Yoon uważał również, że firmy zapewniające bezpośredni dostęp do wydajnych procesorów graficznych powinny weryfikować tożsamość klientów i odmawiać dostępu, gdy istnieją podstawy, by podejrzewać niebezpieczne wykorzystanie.

Abliteration.ai obecnie nie wdrożyła procedur KYC poza rejestracją karty płatniczej, którą klient opłaca usługę. Część specjalistów od red teamingu uważa abliteration za przydatną do testów obciążeniowych systemów. Inni wskazują, że częściej stosują dostrajanie otwartych modeli, a usuwanie ograniczeń może jednocześnie obniżać niektóre możliwości samego modelu.

Czytaj nas na Telegram i Sends