Суперрозум вже поруч. В OpenAI шукають способи приборкати надлюдський штучний інтелект

OpenAI сформувала команду Superalignment для розробки способів керування надрозумними системами штучного інтелекту, які б, в теорії, мали здібності, що перевищували б людські.

В OpenAI передбачають, що поява суперінтелекту — не така вже далека перспектива. Тож команда Superalignment вже зараз намагається створити структуру управління та контролю, яка могла б застосовуватись для майбутніх потужних систем ШІ.

«Прогрес ШІ останнім часом був надзвичайно швидким, і я можу вас запевнити, що він не сповільнюється. Я думаю, що ми досягнемо систем людського рівня досить скоро. Але це не зупиниться на досягнутому — ми підемо прямо до надлюдських систем… Отже, як ми будемо вирівнювати надлюдські системи штучного інтелекту та робитимемо їх безпечними? Це справді проблема всього людства — можливо, найважливіша невирішена технічна проблема нашого часу», — зазначив член команди Superalignment Леопольд Ашенбреннер в коментарі TechCrunch,

Підхід, на якому зараз зупинилася команда, передбачає використання слабшої, менш складної моделі штучного інтелекту (наприклад, GPT-2) для того, аби направити більш просунуту, складну модель (GPT-4) у бажаному напрямку.

«Ми намагаємося сказати моделі, що робити, і переконатися, що вона це зробить. Як змусити модель виконувати інструкції та допомагати лише правдивим речам, а не вигадувати? Як змусити модель повідомити нам, чи є згенерований нею код безпечним чи це кричуща поведінка? Це типи завдань, які ми хочемо виконати за допомогою наших досліджень», — розповів Колін Бернс зі Superalignment.

Налаштована командою Superalignment слабка модель генерує мітки, які використовуються для «спілкування» з сильною моделлю. Враховуючи повідомлення від слабкої моделі, сильна модель може узагальнювати дані більш-менш правильно, відповідно до намірів слабкої моделі, стверджує команда.

Але ця система не ідеальна, тож OpenAI також прагне запустити грантову програму в розмірі 10 мільйонів доларів США для академічних лабораторій, некомерційних організацій, окремих дослідників і аспірантів. Презентувати результати роботи планують на конференції на початку 2025 року. Команда Superalignment запевнила, що інформація про цю роботу та отримувачів грантів від OpenAI за дослідження, пов’язані з приборканням ШІ, зрештою будуть оприлюднені.

Для досліджень команди Superalignment виділено значну кількість обчислювальних ресурсів OpenAI — близько 20% наявних комп’ютерних чипів. А очолює зусилля команди Superalignment, сформованої цього літа, співзасновник і головний науковий співробітник OpenAI Ілля Суцкевер. Як писав NV Техно, напередодні вийшов документальний фільм, у якому співзасновни Суцкевер публічно попередив, що технологія, яку створює його компанія, змінить світ і, можливо, в поганий бік. За його словами, у майбутньому ШІ ставитиметься до людей як до тварин.

Раніше також писали, японський технологічний гігант Rakuten планує запустити власну велику мовну модель штучного інтелекту.

Нагадаємо, новий 2024 рік передбачає збільшення витрат на оборону по всьому світу, глобальне впровадження штучного інтелекту та новий максимум для відновлюваних джерел енергії.