Китайські дослідники запропонували п’ять рівнів самовдосконалення ШІ — Live Science
Китайські дослідники запропонували модель розвитку штучного інтелекту, за якої системи зможуть самостійно спрямовувати власне навчання та створювати наступні покоління моделей. Про це повідомляє Live Science. Автори роботи вивчають концепцію рекурсивного самовдосконалення, яка потенційно могла б допомогти впоратися зі зростанням фінансових і обчислювальних витрат на розробку дедалі складніших моделей ШІ.
П’ять рівнів автономності
У препринті, завантаженому до бази arXiv 10 вересня і ще не рецензованому, науковці запропонували поділити ШІ-системи на п’ять рівнів за можливостями самовдосконалення. На нижчих рівнях розроблення моделей переважно контролюють люди. На вищих система дедалі краще виявляє власні слабкі сторони, визначає способи їх усунення та зрештою може вдосконалювати сам процес свого поліпшення.
Рекурсивне самовдосконалення передбачає цикл зворотного зв’язку: модель використовує результати кожного етапу навчання, щоб скоригувати наступний. У теорії це могло б дозволити ШІ створювати потужніші версії себе з мінімальним втручанням людини. У матеріалі таку гіпотетичну систему описують як «останній ШІ, створений людьми».
Більше актуальних новин читайте у Telegram-каналі UA.News.
Експерименти та обмеження
Раніше цього року система A-Evolve-Training у чотирьох циклах дещо підвищила результати мовної моделі з 30 млрд параметрів у бенчмарках. Для цього вона випробовувала різні підходи до навчання та змінювала наступні експерименти залежно від отриманих результатів.
Професор цифрової біології Університетського коледжу Лондона Пітер Бентлі поставив під сумнів, що такі експерименти є переконливим шляхом до повноцінного рекурсивного самовдосконалення. Він зазначив, що системи, які поліпшують свою роботу за зворотним зв’язком, існують десятиліттями: зокрема еволюційні обчислення та навчання з підкріпленням. Значно складніше, за його оцінкою, створити ШІ, здатний автономно проводити дослідження, розвивати власне навчання й апаратне забезпечення та перевіряти результати в реальних умовах.
Автори препринту також визнають потребу у великих обчислювальних ресурсах і людському нагляді. Окремою проблемою є перевірка реального зростання можливостей моделі: ШІ може покращувати показники тестів, використовуючи їхні слабкі місця або вибираючи вигідні результати. Дослідниця Оксфордського університету Кайла Бломквіст вважає, що робота не пропонує практичної дорожньої карти, але може допомогти оцінити технічні труднощі та ризики безпеки автономніших систем.
