Anthropic może wkrótce osiągnąć próg samodoskonalenia AI — TechCrunch

Firma Anthropic poinformowała w zaktualizowanym zgłoszeniu S-1/A, że może wkrótce osiągnąć własny próg „gwałtownie przyspieszonego postępu napędzanego przez AI”. Chodzi o wewnętrzną ocenę firmy dotyczącą przyszłych modeli, a nie jej obecnych systemów. Informuje o tym TechCrunch.

Wewnętrzny próg Anthropic

Anthropic zaznaczył, że wykorzystuje systemy sztucznej inteligencji do przyspieszania badań i rozwoju. Jednocześnie firma ostrzegła, że może to przyspieszyć rozwój modeli szybciej, niż będzie ona w stanie opracować, przetestować i wdrożyć odpowiednie środki bezpieczeństwa, dostosowania i ochrony.

Firma przyznała również, że w przeszłości nie zawsze od razu wykrywała istotne przyspieszenie tempa rozwoju modeli i może nie rozpoznać go na czas w przyszłości. Anthropic podkreślił, że żaden z jego obecnych modeli nie został jeszcze uznany za taki, który przekroczył ten próg, a ocena danych trwa.

Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.

Rekursywne samodoskonalenie

Proces, w którym AI tak skutecznie pomaga trenować i ulepszać kolejne systemy, że gwałtownie przyspiesza rozwój jego możliwości, nazywa się rekurencyjnym samodoskonaleniem, czyli RSI. Anthropic uważa wykorzystywanie AI do tworzenia potężniejszych modeli jednocześnie za perspektywę i istotne zagrożenie dla bezpieczeństwa.

Firma oświadczyła, że obecnie nie oczekuje możliwości bezpiecznego wykorzystywania Claude do w pełni autonomicznego projektowania i tworzenia kolejnych generacji zaawansowanych modeli bez znaczącego nadzoru człowieka lub rozumienia procesu. Anthropic rozważa aktualizację swojej polityki odpowiedzialnego skalowania, aby zachować ludzką kontrolę nad rozwojem zaawansowanych modeli.