Senat USA omawia obowiązek ograniczania katastrofalnych ryzyk przez firmy AI

W Waszyngtonie negocjatorzy w Senacie USA omawiają projekt ustawy, który może zobowiązać firmy technologiczne do tworzenia bezpiecznych produktów wykorzystujących sztuczną inteligencję i zapobiegania katastrofalnym ryzykom. Jak podaje Channel NewsAsia, powołując się na Reuters, inicjatywa może również przewidywać udział sądów federalnych, jeśli rząd USA będzie chciał zablokować udostępnienie modelu AI.

Obowiązek dla deweloperów

Według dwóch doradców senatorów propozycja może wprowadzić dla deweloperów AI tak zwany obowiązek należytej staranności. Firmy musiałyby projektować swoje produkty w taki sposób, aby zapobiegać katastrofalnym ryzykom.

Negocjatorzy dążą do przyznania rządowi USA uprawnień do blokowania udostępniania poszczególnych modeli AI uznanych za niebezpieczne. Według źródła zaznajomionego z rozmowami oraz jednego z doradców senatorów firmy mogłyby zaskarżać takie decyzje do sądu federalnego. Jednocześnie dokładny zakres uprawnień rządu jest nadal uzgadniany.

Ryzyka i negocjacje

Część inicjatywy może również zakazać stanom stosowania własnych przepisów dotyczących niektórych ryzyk związanych z modelami AI, poinformowało dwóch doradców Senatu. Wśród możliwych ryzyk wymienili wykorzystanie systemów AI przez złośliwe podmioty do opracowywania broni jądrowej lub biologicznej.

Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.

Projekt ustawy ma dotyczyć modeli o najbardziej zaawansowanych możliwościach. Wśród amerykańskich firm opracowujących takie modele źródło wymieniło Google, Anthropic i OpenAI.

W konsultacjach uczestniczą lider większości w Senacie John Thune, przewodniczący Senackiej Komisji Handlu Ted Cruz oraz senator Amy Klobuchar, główna przedstawicielka Demokratów w tych negocjacjach. W dyskusji uczestniczyła również senator Maria Cantwell. Cruz oświadczył, że pracuje z Klobuchar i Thune'em nad ustawodawstwem mającym przeciwdziałać katastrofalnym ryzykom związanym z zagrożeniami biologicznymi i nuklearnymi.

Klobuchar powiedziała Reutersowi, że pracuje nad ponadpartyjnym porozumieniem dotyczącym nadzoru rządowego nad największymi ryzykami związanymi z modelami AI. Według niej zakłada to współpracę deweloperów z ekspertami rządowymi w celu przeglądu i testowania modeli. Nawet w przypadku osiągnięcia porozumienia przyjęcie dokumentu może utrudnić harmonogram prac Kongresu: przed wyborami połówkowymi 3 listopada Izba Reprezentantów ma obradować tylko przez jeden tydzień, a Senat przez trzy tygodnie.

Czytaj nas na Telegram i Sends