Google DeepMind запустила інститут для дискусії про AGI — TechCrunch
Google та дослідники Google DeepMind у середу оголосили про запуск DeepMind Institute — інституту для розвитку дискусії навколо загального штучного інтелекту (AGI). Як повідомляє TechCrunch, інститут має представляти різні погляди Google, Google DeepMind і ширшої світової дослідницької спільноти.
Директорами інституту вказані співзасновник DeepMind Шейн Леґґ, керівник Google Джеймс Маніяка та голова Google DeepMind Деміс Гассабіс. Леґґ також працюватиме керівним редактором. В оголошенні зазначили, що учасники дискусій не завжди погоджуватимуться між собою та можуть змінювати позиції з появою нових даних і інформації.
Перші есеї інституту
Першою роботою інституту стала добірка з чотирьох есеїв. Вони присвячені економічній політиці для подолання можливих наслідків AGI, збереженню зрозумілих людині міркувань моделей, принципам людського добробуту та підходу до оцінювання передових моделей штучного інтелекту.
Дослідники безпеки DeepMind Рохін Шах і Анка Драґан у своєму есеї стверджують, що звуження можливостей перевіряти покрокові міркування ШІ не є неминучим. На їхню думку, у міру появи нових архітектур найпотужніші моделі стають складнішими для моніторингу, тому розробники й регулятори мають безпосередньо розглядати компроміси у сфері безпеки.
Більше актуальних новин читайте у Telegram-каналі UA.News.
Серед можливих підходів автори назвали обмеження «непрозорої послідовної глибини» — обсягу послідовних обчислень, які модель може виконувати без зрозумілого для читання сліду міркувань. Іншим варіантом може бути вимога до розробників доводити, що менш прозорі системи залишаються настільки ж придатними для моніторингу.
Оцінювання передових моделей
В іншому есеї Деміс Гассабіс запропонував створити очолюваний США орган зі стандартів для оцінювання найпередовіших моделей ШІ. За його задумом, компанії-розробники спочатку добровільно подавали б моделі на перевірку до 30 днів перед релізом. Після підтвердження ефективності такої системи проходження тестів могло б стати вимогою для розгортання передових моделей у США.
На початковому етапі орган розробляв би оцінювання разом із ШІ-компаніями, а згодом мав би створити незалежні нерозкриті тести, щоб лабораторії не могли пристосовувати моделі до відомих перевірок. Гассабіс також допустив посилення механізму залежно від серйозності ситуації, зокрема через скоординоване уповільнення розробки передових систем ШІ.
