Google DeepMind запустила институт для дискуссии об AGI — TechCrunch
Google и исследователи Google DeepMind в среду объявили о запуске DeepMind Institute — института для развития дискуссии вокруг общего искусственного интеллекта (AGI). Как сообщает TechCrunch, институт должен представлять различные взгляды Google, Google DeepMind и более широкого мирового исследовательского сообщества.
Директорами института указаны сооснователь DeepMind Шейн Легг, руководитель Google Джеймс Маника и глава Google DeepMind Демис Хассабис. Легг также будет работать исполнительным редактором. В объявлении отметили, что участники дискуссий не всегда будут соглашаться друг с другом и могут менять свои позиции по мере появления новых данных и информации.
Первые эссе института
Первой работой института стала подборка из четырех эссе. Они посвящены экономической политике для преодоления возможных последствий AGI, сохранению понятных человеку рассуждений моделей, принципам человеческого благополучия и подходу к оценке передовых моделей искусственного интеллекта.
Исследователи безопасности DeepMind Рохин Шах и Анка Драган в своем эссе утверждают, что сужение возможностей проверять пошаговые рассуждения ИИ не является неизбежным. По их мнению, по мере появления новых архитектур самые мощные модели становятся более сложными для мониторинга, поэтому разработчики и регуляторы должны напрямую рассматривать компромиссы в сфере безопасности.
Больше актуальных новостей — в Telegram-канале UA.News Telegram.
Среди возможных подходов авторы назвали ограничение «непрозрачной последовательной глубины» — объема последовательных вычислений, которые модель может выполнять без читаемого следа рассуждений. Другим вариантом могло бы стать требование к разработчикам доказывать, что менее прозрачные системы остаются столь же пригодными для мониторинга.
Оценка передовых моделей
В другом эссе Демис Хассабис предложил создать возглавляемый США орган по стандартам для оценки наиболее передовых моделей ИИ. По его замыслу, компании-разработчики сначала добровольно подавали бы модели на проверку за 30 дней до релиза. После подтверждения эффективности такой системы прохождение тестов могло бы стать требованием для развертывания передовых моделей в США.
На начальном этапе орган разрабатывал бы оценки совместно с ИИ-компаниями, а затем должен был бы создать независимые нераскрываемые тесты, чтобы лаборатории не могли адаптировать модели к известным проверкам. Хассабис также допустил усиление механизма в зависимости от серьезности ситуации, в частности посредством скоординированного замедления разработки передовых систем ИИ.
