Google DeepMind uruchomiła instytut na rzecz debaty o AGI — TechCrunch

Google i badacze Google DeepMind ogłosili w środę uruchomienie DeepMind Institute — instytutu mającego rozwijać dyskusję wokół ogólnej sztucznej inteligencji (AGI). Jak informuje TechCrunch, instytut ma przedstawiać różne poglądy Google, Google DeepMind oraz szerszej globalnej społeczności badawczej.

Jako dyrektorów instytutu wskazano współzałożyciela DeepMind Shane’a Legga, kierownika Google Jamesa Manyikę oraz szefa Google DeepMind Demisa Hassabisa. Legg będzie również pełnił funkcję redaktora wykonawczego. W ogłoszeniu zaznaczono, że uczestnicy dyskusji nie zawsze będą się ze sobą zgadzać i mogą zmieniać swoje stanowiska wraz z pojawianiem się nowych danych i informacji.

Pierwsze eseje instytutu

Pierwszą pracą instytutu był zbiór czterech esejów. Dotyczą one polityki gospodarczej służącej przezwyciężeniu możliwych skutków AGI, zachowania zrozumiałego dla ludzi rozumowania modeli, zasad dobrostanu ludzi oraz podejścia do oceny zaawansowanych modeli sztucznej inteligencji.

Badacze bezpieczeństwa DeepMind, Rohin Shah i Anca Dragan, twierdzą w swoim eseju, że zawężanie możliwości weryfikowania krok po kroku rozumowania AI nie jest nieuniknione. Ich zdaniem wraz z pojawianiem się nowych architektur najpotężniejsze modele stają się trudniejsze do monitorowania, dlatego twórcy i regulatorzy powinni bezpośrednio rozważać kompromisy w zakresie bezpieczeństwa.

Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.

Wśród możliwych podejść autorzy wymienili ograniczenie „nieprzezroczystej głębokości sekwencyjnej” — ilości sekwencyjnych obliczeń, które model może wykonywać bez czytelnego śladu rozumowania. Inną opcją mogłoby być wymaganie od twórców wykazania, że mniej przejrzyste systemy pozostają równie możliwe do monitorowania.

Ocena zaawansowanych modeli

W innym eseju Demis Hassabis zaproponował utworzenie kierowanego przez USA organu normalizacyjnego do oceny najbardziej zaawansowanych modeli AI. Zgodnie z jego koncepcją firmy deweloperskie początkowo dobrowolnie zgłaszałyby modele do testów do 30 dni przed premierą. Po potwierdzeniu skuteczności takiego systemu przejście testów mogłoby stać się wymogiem wdrażania zaawansowanych modeli w USA.

Na początkowym etapie organ opracowywałby oceny wspólnie z firmami AI, a następnie miałby stworzyć niezależne, nieujawniane testy, aby laboratoria nie mogły dostosowywać modeli do znanych kontroli. Hassabis dopuścił również wzmocnienie mechanizmu zależnie od powagi sytuacji, w tym poprzez skoordynowane spowolnienie rozwoju zaawansowanych systemów AI.

Czytaj nas na Telegram i Sends