Zuckerberg: firmy AI mają bodźce, by dbać o bezpieczeństwo

W Stanach Zjednoczonych dyrektor generalny Meta Mark Zuckerberg oświadczył, że konkurencja i odpowiedzialność prawna dają firmom rozwijającym sztuczną inteligencję wystarczające bodźce, aby samodzielnie dbały o bezpieczeństwo swoich modeli. Napisał o tym 15 września w serwisie społecznościowym X, informuje Channel NewsAsia.

Według Zuckerberga każde laboratorium ma odpowiedzialność i bodźce, by rozwijać modele w tempie potrzebnym do ich bezpiecznego szkolenia, a także może samodzielnie podejmować w tym celu działania. Stwierdził również, że zaufanie i zgodność będą coraz bardziej odróżniać agentów AI i modele różnych twórców.

Różnice dotyczące tempa rozwoju

Oświadczenie Zuckerberga padło trzy dni po tym, jak dyrektor generalny Anthropic Dario Amodei wezwał do spowolnienia tempa doskonalenia możliwości modeli AI. Amodei poruszył tę kwestię w obliczu ostrzeżeń szeregu badaczy przed egzystencjalnymi zagrożeniami związanymi z tą technologią. Jego apel publicznie poparli szef OpenAI Sam Altman oraz założyciel xAI Elon Musk.

Prezydent USA Donald Trump 14 września umniejszał obawy dotyczące potencjalnych szkód ze strony AI, stwierdzając, że kraj ma już zabezpieczenia w tej dziedzinie. Powiedział również, że wątpliwości dotyczące rozwoju tej technologii mogą działać na korzyść Chin. Pogląd, że regulacje mogą osłabić konkurencyjność amerykańskich firm, podziela między innymi dyrektor generalny Nvidia Jensen Huang.

Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.

Stanowisko Meta w sprawie bezpieczeństwa

Zuckerberg oświadczył, że laboratoria mają silną motywację, by nie dopuścić do szkód powodowanych przez ich modele, ponieważ w przeciwnym razie mogą ponieść znaczną odpowiedzialność prawną. Podał przykład Meta, która w tym roku odroczyła premierę agenta AI Muse, aby wzmocnić jego zabezpieczenia.

Szef Meta poinformował również, że firma skierowała znaczną większość swoich zasobów obliczeniowych na produkty odpowiadające bieżącym potrzebom użytkowników, a nie na systemy AI zdolne do samodoskonalenia. Jak powiedział, dział Meta Superintelligence Labs już angażuje niezależnych ewaluatorów w kilku obszarach i uznaje to za najlepszą praktykę w branży.

Przewodniczący Federalnej Komisji Handlu USA Andrew Ferguson 15 września wezwał do podejrzliwego traktowania firm AI, które zabiegają o wyłączenia antymonopolowe, jednocześnie lobbując za nowymi przepisami. Publikacja zauważa, że Amodei w ubiegłym tygodniu prosił o takie zezwolenie, aby konkurenci mogli koordynować spowolnienie rozwoju AI ze względów bezpieczeństwa.

Czytaj nas na Telegram i Sends