Chińscy badacze zaproponowali pięć poziomów samodoskonalenia AI — Live Science
Chińscy badacze zaproponowali model rozwoju sztucznej inteligencji, w którym systemy mogłyby samodzielnie kierować własnym szkoleniem i tworzyć kolejne generacje modeli. Poinformował o tym Live Science. Autorzy pracy badają koncepcję rekurencyjnego samodoskonalenia, która potencjalnie mogłaby pomóc poradzić sobie z rosnącymi kosztami finansowymi i obliczeniowymi tworzenia coraz bardziej złożonych modeli AI.
Pięć poziomów autonomii
W preprincie przesłanym do bazy arXiv 10 września i jeszcze nierecenzowanym naukowcy zaproponowali podział systemów AI na pięć poziomów według możliwości samodoskonalenia. Na niższych poziomach tworzenie modeli jest głównie kontrolowane przez ludzi. Na wyższych poziomach system coraz lepiej rozpoznaje własne słabości, określa sposoby ich eliminowania i ostatecznie może ulepszać sam proces własnego doskonalenia.
Rekurencyjne samodoskonalenie zakłada pętlę sprzężenia zwrotnego: model wykorzystuje wyniki każdego etapu szkolenia, aby skorygować następny. Teoretycznie mogłoby to pozwolić AI tworzyć potężniejsze wersje samej siebie przy minimalnej ingerencji człowieka. W materiale taki hipotetyczny system opisano jako „ostatnią AI stworzoną przez ludzi”.
Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.
Eksperymenty i ograniczenia
Wcześniej w tym roku system A-Evolve-Training w czterech cyklach nieznacznie poprawił wyniki modelu językowego z 30 mld parametrów w benchmarkach. W tym celu testował różne podejścia do szkolenia i zmieniał kolejne eksperymenty w zależności od uzyskanych rezultatów.
Peter Bentley, profesor biologii cyfrowej w University College London, zakwestionował, czy takie eksperymenty stanowią przekonującą drogę do pełnego rekurencyjnego samodoskonalenia. Zauważył, że systemy poprawiające swoje działanie dzięki sprzężeniu zwrotnemu istnieją od dekad, w tym obliczenia ewolucyjne i uczenie ze wzmocnieniem. Znacznie trudniejsze jest, jego zdaniem, stworzenie AI zdolnej do autonomicznego prowadzenia badań, rozwijania własnego szkolenia i sprzętu oraz sprawdzania wyników w rzeczywistych warunkach.
Autorzy preprintu również przyznają, że potrzebne są duże zasoby obliczeniowe i nadzór człowieka. Osobnym problemem jest weryfikacja rzeczywistego wzrostu możliwości modelu: AI może poprawiać wyniki testów, wykorzystując ich słabości lub wybierając korzystne rezultaty. Kayla Blomqvist, badaczka z Uniwersytetu Oksfordzkiego, uważa, że praca nie przedstawia praktycznej mapy drogowej, lecz może pomóc ocenić trudności techniczne i zagrożenia dla bezpieczeństwa związane z bardziej autonomicznymi systemami.
