W USA OpenAI, Anthropic i Google DeepMind od kilku tygodni rozmawiają o bezpieczeństwie AI
W Stanach Zjednoczonych OpenAI od kilku tygodni prowadzi rozmowy z Anthropic i Google DeepMind na temat bezpieczeństwa sztucznej inteligencji. Poinformował o tym dziennikarzy Chris Lehane, szef ds. polityki globalnej w OpenAI, który według TechCrunch przebywa w Waszyngtonie i współpracuje z amerykańskimi ustawodawcami w kwestiach katastrofalnych zagrożeń związanych z AI.
Rozmowy o bezpieczeństwie
Wypowiedź Lehane’a padła po eseju dyrektora generalnego Anthropic, Dario Amodeiego, opublikowanym w sobotę. Wezwał w nim przedstawicieli branży do wspólnej pracy nad spowolnieniem rozwoju zaawansowanych systemów AI, aby uniknąć katastrofalnych zagrożeń.
Apel Amodeiego poparli dyrektor generalny OpenAI Sam Altman, szef Google DeepMind Demis Hassabis oraz Elon Musk. Altman oświadczył również, że OpenAI wraz z Anthropic zaangażuje niezależnych zewnętrznych oceniających do monitorowania bezpieczeństwa w firmie.
Wcześniej Altman w wywiadzie dla Fortune zasugerował, że prywatnie omawiał te kwestie z innymi liderami branży. The Information poinformowało w tym tygodniu, że OpenAI, Anthropic i Google pracują nad utworzeniem organu normalizacyjnego dla branży AI. Według publikacji Altman powiedział pracownikom, że taki organ powinien zostać utworzony bez wsparcia rządu USA.
Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.
Regulacje i konkurencja
Niektórzy przedstawiciele branży, w tym Altman, wskazywali, że koordynacja między konkurentami może stworzyć ryzyko naruszenia przepisów antymonopolowych, jeśli zostanie uznana za ograniczającą konkurencję. Amodei proponował wprowadzenie wąskiego rządowego wyjątku dla takiej współpracy w dziedzinie bezpieczeństwa, jednak Lehane, według TechCrunch, stwierdził, że firmom nie jest on potrzebny.
W lipcu Hassabis wezwał USA do utworzenia nowego organu normalizacyjnego, który mógłby testować najbardziej zaawansowane modele AI i koordynować spowolnienie ich rozwoju w przypadku wzrostu zagrożeń.
Na tym samym wtorkowym spotkaniu Lehane oświadczył, że OpenAI popiera przepis projektu ustawy FRONTIER Act. Przewiduje on, że czołowe laboratoria muszą dopuszczać niezależne organizacje weryfikacyjne do oceny bezpieczeństwa rozwoju modeli. Prezydent Donald Trump wcześniej nazywał obawy dotyczące bezpieczeństwa AI mistyfikacją i sprzeciwiał się zaostrzeniu regulacji, twierdząc, że każde spowolnienie da Chinom przewagę w konkurencji technologicznej.
Czytaj nas na Telegram i Sends
