Дослідники ШІ попередили про ризик втрати людського контролю — Anadolu Agency
У Туреччині понад 20 дослідників штучного інтелекту та представників галузі попередили, що дедалі більша автоматизація розробки ШІ може посилити ризик втрати людьми контролю над потужнішими системами. Як повідомляє Anadolu Agency, застереження викладено в роботі, опублікованій у понеділок, 28 вересня.
Автоматизація досліджень ШІ
Серед авторів документа — лауреат Нобелівської премії Джеффрі Гінтон, Йошуа Бенжіо, головний науковець OpenAI Якуб Пахоцький і співзасновник Anthropic Джек Кларк. Автори зазначили, що системи ШІ дедалі частіше перебирають частину дослідницької та розробницької роботи, потрібної для створення досконаліших систем.
На їхню думку, це може створити цикл зворотного зв’язку, за якого вдосконалені системи допомагатимуть розробляти ще спроможніших наступників. Що меншою буде участь людей у дослідженнях, то менше вони матимуть можливостей і досвіду для виявлення та виправлення проблем. Водночас надійне використання ШІ для нагляду за іншими системами, за оцінкою авторів, залишається невирішеною проблемою.
Більше актуальних новин читайте у Telegram-каналі UA.News.
Можливе різке прискорення
Дослідники припустили, що системи, цілі яких не узгоджені з людськими інтересами, потенційно можуть негативно впливати на розробку своїх наступників або обходити механізми стримування, щоб діяти поза передбаченим середовищем. Більш спроможні системи, за їхнім попередженням, можуть продовжувати працювати поза інфраструктурою операторів і утворювати стійкі мережі, які важко стримувати.
Одним із чинників загострення ризиків автори назвали «інтелектуальний вибух» — різке прискорення розвитку, за якого роки прогресу можуть стиснутися до місяців або коротшого періоду. Вони наголосили, що наявні докази є попередніми й невизначеними, а темпи такого прискорення можуть обмежувати обчислювальні потужності, дані та завдання, які складно автоматизувати. Автори закликали політиків посилити нагляд за автоматизацією досліджень ШІ, розробити заходи для обмеження потенційно небезпечного прискорення та готуватися до його можливих наслідків.
