Китайские исследователи предложили пять уровней самосовершенствования ИИ — Live Science
Китайские исследователи предложили модель развития искусственного интеллекта, при которой системы смогут самостоятельно направлять собственное обучение и создавать следующие поколения моделей. Об этом сообщает Live Science. Авторы работы изучают концепцию рекурсивного самосовершенствования, которая потенциально могла бы помочь справиться с ростом финансовых и вычислительных затрат на разработку всё более сложных моделей ИИ.
Пять уровней автономности
В препринте, загруженном в базу arXiv 10 сентября и ещё не прошедшем рецензирование, учёные предложили разделить ИИ-системы на пять уровней по возможностям самосовершенствования. На нижних уровнях разработка моделей преимущественно контролируется людьми. На более высоких уровнях система всё лучше выявляет собственные слабые стороны, определяет способы их устранения и в итоге может улучшать сам процесс своего совершенствования.
Рекурсивное самосовершенствование предполагает цикл обратной связи: модель использует результаты каждого этапа обучения, чтобы скорректировать следующий. Теоретически это могло бы позволить ИИ создавать более мощные версии себя при минимальном вмешательстве человека. В материале такую гипотетическую систему описывают как «последний ИИ, созданный людьми».
Больше актуальных новостей — в Telegram-канале UA.News Telegram.
Эксперименты и ограничения
Ранее в этом году система A-Evolve-Training за четыре цикла немного улучшила результаты языковой модели с 30 млрд параметров в бенчмарках. Для этого она испытывала разные подходы к обучению и изменяла последующие эксперименты в зависимости от полученных результатов.
Профессор цифровой биологии Университетского колледжа Лондона Питер Бентли усомнился, что такие эксперименты являются убедительным путём к полноценному рекурсивному самосовершенствованию. Он отметил, что системы, улучшающие свою работу по обратной связи, существуют десятилетиями, в частности эволюционные вычисления и обучение с подкреплением. Значительно сложнее, по его оценке, создать ИИ, способный автономно проводить исследования, развивать собственное обучение и аппаратное обеспечение, а также проверять результаты в реальных условиях.
Авторы препринта также признают потребность в крупных вычислительных ресурсах и человеческом надзоре. Отдельной проблемой является проверка реального роста возможностей модели: ИИ может улучшать показатели тестов, используя их слабые места или выбирая выгодные результаты. Исследовательница Оксфордского университета Кайла Бломквист считает, что работа не предлагает практической дорожной карты, но может помочь оценить технические трудности и риски безопасности более автономных систем.
