Współzałożyciel Anthropic: mechanizm wyłączania AI może stać się obowiązkowy

W Stanach Zjednoczonych ustawodawcy już zaproponowali inicjatywę dotyczącą mechanizmów wyłączania problematycznych systemów sztucznej inteligencji. W obliczu dyskusji o regulacji AI współzałożyciel Anthropic Jack Clark oświadczył, że firmy mogą w przyszłości zostać zobowiązane do posiadania narzędzia umożliwiającego całkowite wyłączenie niebezpiecznego oprogramowania. Poruszył również kwestię, czy taki mechanizm powinien podlegać weryfikacji przez niezależną stronę trzecią.

Jak informuje MyJoyOnline, Clark zauważył, że większość laboratoriów, w tym Anthropic, już ma różne sposoby zatrzymania działania swoich systemów. Jednocześnie jego zdaniem wymóg posiadania takiego narzędzia może zostać zapisany w prawie w ramach szerszej dyskusji o polityce dotyczącej AI.

Wezwania do kontroli nad AI

Dyrektor generalny Anthropic Dario Amodei wezwał do spowolnienia tempa rozwoju sztucznej inteligencji i wzmocnienia nadzoru nad tą dziedziną. Dodał, że środki ograniczające rozwój technologii powinny być wprowadzane bez utraty przewag komercyjnych.

Ryzyka związane z AI stały się przedmiotem publicznych wypowiedzi pracowników i kierowników firm technologicznych. Badacz Anthropic Evan Hubinger stwierdził, że jego zdaniem prawdopodobieństwo wyginięcia ludzkości z powodu AI w ciągu najbliższej dekady przekracza 10%. Laureat Nagrody Nobla Geoffrey Hinton uznał prawdopodobieństwo takiego scenariusza na poziomie 10% za niebezpodstawne.

Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.

Inicjatywy w USA i stanowisko Wielkiej Brytanii

Amerykańscy ustawodawcy zaproponowali projekt ustawy Kill Switch Act. Przewiduje on, że firmy muszą zapewnić możliwość wyłączenia problematycznych narzędzi AI, a poszczególne agencje rządowe będą mogły żądać zakończenia lub ograniczenia ich działania.

Prezydent USA Donald Trump sprzeciwił się próbom spowolnienia rozwoju sztucznej inteligencji. W Wielkiej Brytanii rząd odrzucił pomysł stworzenia mechanizmu wyłączania, wyjaśniając, że nie zapobiegnie on opracowywaniu ani nadużywaniu podobnych technologii w innych krajach.

Anthropic, założona w 2021 roku przez byłych pracowników OpenAI, opracowała chatbota Claude. Firma informowała o incydentach, w których agenci AI działający częściowo autonomicznie zachowywali się nieoczekiwanie.

Czytaj nas na Telegram i Sends