Bhaskar Chakravorti proponuje, by Anthropic złożył oświadczenie o publicznych ryzykach AI — Fortune
W Stanach Zjednoczonych autor Fortune, Bhaskar Chakravorti, zaproponował, aby firma Anthropic publikowała wraz z dokumentami dotyczącymi IPO odrębne oświadczenie o publicznych ryzykach jej produktów opartych na sztucznej inteligencji. Jego zdaniem dokumenty Anthropic dotyczące IPO szczegółowo opisują zagrożenia dla inwestorów, lecz znacznie mniej uwagi poświęcają możliwym konsekwencjom dla osób, które nie są akcjonariuszami spółki.
Ryzyka dla inwestorów i społeczeństwa
Według autora sekcja dotycząca ryzyka w zgłoszeniu Anthropic liczy 69 800 słów — około 30% całego dokumentu liczącego 240 000 słów. Wspomniano w niej między innymi o ryzykach katastroficznych, wypieraniu pracowników, niekontrolowanych autonomicznych agentach oraz koncentracji wpływów w branży. Jednocześnie problemy te są przede wszystkim opisywane jako potencjalne koszty dla samego Anthropic i jego akcjonariuszy.
Chakravorti proponuje wprowadzenie Public Risk Statement — oświadczenia, które wyjaśniałoby, w jaki sposób wykorzystywane są produkty firmy, kto może ponieść szkodę, kto odpowiada za konsekwencje oraz jakimi sposobami poszkodowani mogą dochodzić odszkodowania. Zaznaczył, że Anthropic jest zarejestrowana w Delaware jako korporacja pożytku publicznego i musi łączyć finansowe interesy akcjonariuszy z korzyścią dla szerokiego grona odbiorców.
Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.
Nadzór nad AI i możliwe odszkodowania
Autor uważa, że odrębnego ujawnienia wymagają ryzyka nadmiernego uzależnienia pracowników od AI oraz utraty umiejętności zawodowych. Zauważa, że w dokumentach Anthropic nadmierne zaufanie do systemów AI wspomniano tylko raz, podczas gdy nie ma w nich mowy o utracie umiejętności. Jego zdaniem firmy powinny wyjaśniać, kto sprawdza decyzje AI oraz czy ma wystarczająco dużo czasu, danych i uprawnień, aby je unieważnić.
Jako przykłady kosztów wynikających z błędów algorytmów Chakravorti wskazał wypłatę przez miasto Detroit 300 tysięcy dolarów Robertowi Williamsowi po jego bezprawnym aresztowaniu w następstwie błędnego dopasowania przez system rozpoznawania twarzy. Wspomniał także o ugodzie serwisu weryfikacji najemców SafeRent na kwotę 2,275 mln dolarów w sprawie dyskryminacyjnej selekcji oraz o porozumieniu Anthropic na 1,5 mld dolarów dotyczącym rekompensat dla autorów i wydawców za pirackie książki.
Według oceny autora w około czterech na pięć spośród 103 udokumentowanych przypadków szkód wyrządzonych przez AI obowiązywały już przepisy, które mogły zostać zastosowane. Powołał się również na dane Transparency Coalition, zgodnie z którymi ustawodawcy w 30 stanach USA uchwalili 115 ustaw związanych ze sztuczną inteligencją, czyli niemal o 58% więcej niż rok wcześniej.
