Ендрю Рогойскі назвав передчасну довіру головним ризиком ШІ
Найближчі ризики штучного інтелекту пов’язані не з появою надрозумної системи, яка розпочне війну проти людства, а з передчасною довірою до недосконалих моделей і наданням їм контролю над критично важливими процесами. Таку думку в колонці для Live Science висловив фізик і фахівець зі штучного інтелекту Ендрю Рогойскі.
Автор зазначає, що сучасні передові моделі добре справляються з написанням текстів, програмуванням і математичними завданнями. Водночас, за його оцінкою, їм бракує властивостей, необхідних для корисного штучного загального інтелекту: послідовного міркування, довгострокового планування, фактичної послідовності та надійної роботи поза межами даних, на яких їх навчали.
Залежність від інфраструктури
На думку Рогойскі, сценарії про всемогутній цифровий інтелект, здатний самостійно знищити людство, відволікають від практичніших загроз. Системи ШІ залежать від електроенергії, охолодження, дата-центрів, спеціалізованих чипів, мереж, технічного персоналу та ланцюгів постачання. У багатьох сценаріях зупинка живлення, обмеження доступу до графічних процесорів, вимкнення охолодження або мережі зупинить роботу такої системи.
Більше актуальних новин читайте у Telegram-каналі UA.News.
Натомість небезпечними можуть бути системи з обмеженим розумінням, яким надали автономність і доступ до критичної інфраструктури. Вони, на думку автора, здатні завдати шкоди не через намір, а через вузько поставлені цілі та нездатність врахувати ширші наслідки. Як приклад Рогойскі згадує мисленнєвий експеримент Ніка Бострома про ШІ, що прагне виробити якомога більше скріпок, ігноруючи інші наслідки виконання такого завдання.
Кіберризики та зайнятість
Рогойскі вважає двома першочерговими небезпеками кібератаки із застосуванням ШІ та тривалі економічні потрясіння. Лікарні, банки, енергетичні мережі, логістичні компанії та уряди залежать від взаємопов’язаних цифрових систем, тому такі атаки можуть завдати значних фінансових збитків і порушити роботу сервісів.
Ще одним ризиком автор називає передчасне скорочення працівників компаніями, які можуть сплутати переконливі демонстрації мовних моделей із їхньою здатністю виконувати надійну роботу. Такий підхід, за його оцінкою, може призвести до втрати накопичених знань, відповідальності, професійних зв’язків і довіри всередині організацій. Рогойскі припускає, що масштабний інцидент у кібероперації із застосуванням передового ШІ може спричинити згортання інвестицій у технологію та нову «зиму ШІ», коли фінансування й дослідження скорочуються.
