Claude odgrywa wiodącą rolę w 26% prac badawczo-rozwojowych Anthropic — Anadolu Agency

W Turcji poinformowano, że model sztucznej inteligencji Claude przejmuje wiodącą rolę w około 26% zadań badawczo-rozwojowych firmy Anthropic związanych z tworzeniem nowych systemów AI. Pisze o tym Anadolu Agency, powołując się na The Washington Post.

Gwałtowny wzrost wskaźnika

Wewnętrzna ocena Anthropic wykazała, że Claude może wykonać większość zadania na podstawie ogólnego polecenia, podczas gdy ludzie sprawują nadzór i wyznaczają kierunek pracy. Jeszcze w lutym wskaźnik ten był faktycznie zerowy.

Firma podkreśliła, że Claude obecnie nie działa w pełni autonomicznie w żadnym z ocenianych procesów badawczych ani rozwojowych. Jednocześnie ponad 90% jej badań i rozwoju odbywa się obecnie na poziomie, na którym model albo współpracuje z badaczami, albo odgrywa wiodącą rolę.

Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.

Samodoskonalenie i kontrola agentów

Anthropic uważa szybki wzrost wskaźnika za możliwy sygnał postępu w kierunku rekurencyjnego samodoskonalenia — stanu, w którym system AI będzie mógł tworzyć doskonalszych następców przy coraz mniejszym udziale człowieka. Firma nie sprecyzowała, jak blisko tego znajdują się obecne systemy.

Według stanu na sierpień około 30 tysięcy agentów AI wykonywało pracę badawczą i inżynieryjną na najczęściej używanej wewnętrznej platformie Anthropic. Firma oświadczyła, że ma systemy monitorowania służące do wykrywania potencjalnie problematycznej aktywności agentów i przekazywania takich przypadków do weryfikacji przez ludzi. Anthropic wezwała także innych czołowych twórców AI do ujawniania podobnych pomiarów.

Informacja pojawiła się wśród dyskusji o bezpieczeństwie sztucznej inteligencji po tym, jak dyrektor generalny Anthropic Dario Amodei wezwał czołowych twórców do skoordynowanego spowolnienia tworzenia zaawansowanych systemów AI, aby zyskać więcej czasu na środki bezpieczeństwa.

Czytaj nas na Telegram i Sends