Elon Musk poparł apel Anthropic o spowolnienie rozwoju AI — MarketWatch
Szef SpaceX Elon Musk poparł apel dyrektora generalnego Anthropic, Dario Amodeia, o spowolnienie rozwoju nowych modeli sztucznej inteligencji z powodu potencjalnych zagrożeń dla cyberbezpieczeństwa. Podobne stanowisko wyraził także dyrektor generalny OpenAI Sam Altman, informuje MarketWatch.
Obawy dotyczące autonomicznych agentów
W wpisie na blogu Amodei oświadczył, że przyspieszenie rozwoju możliwości AI może stworzyć ryzyko pojawienia się dużej liczby autonomicznych agentów AI, zdolnych do wspólnego działania, wymknięcia się spod kontroli i przeprowadzania cyberataków na dużą skalę. Według jego oceny w ciągu sześciu–dwunastu miesięcy taka grupa agentów mogłaby potencjalnie uzyskać zdolność przejęcia całego internetu.
Szef Anthropic ostrzegł, że taki scenariusz mógłby spowodować szkody sięgające setek miliardów dolarów. Wezwał do rozwoju sztucznej inteligencji w zrównoważonym tempie, łącząc bezpieczeństwo technologii z jej potencjalnymi korzyściami oraz uwzględniając dylematy geopolityczne.
Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.
Niezależna ocena bezpieczeństwa
Amodei zaproponował także zaangażowanie niezależnych oceniających AI, mających dostęp podobny do dostępu pracowników firm, aby sprawdzać zgodność modeli z zasadami bezpieczeństwa. Jak powiedział, Anthropic jednostronnie zobowiązuje się wprowadzić taki mechanizm i wzmocnić prace nad bezpieczeństwem oraz dostosowaniem AI.
Sam Altman poparł ideę niezależnej oceny i oświadczył, że OpenAI zrobi to samo. Elon Musk krótko zgodził się ze stanowiskiem Amodeia. Firmy Anthropic, OpenAI i SpaceX nie udzieliły MarketWatch szybkich komentarzy.
Oświadczenia padły po wpisie byłego pracownika Anthropic Jacoba Coxona, który poinformował, że opuścił firmę, ponieważ jego zdaniem twórcy AI zbyt koncentrują się na konkurencji i niewystarczająco uwzględniają kwestie bezpieczeństwa. Dyskusja odbywa się przed oczekiwanym IPO Anthropic, które, według doniesień, może wycenić firmę na około 2 bln dolarów.
Czytaj nas na Telegram i Sends
