Фінські професори оцінили ризики штучного інтелекту — YLE News
У Фінляндії професори Арно Солін з Університету Аалто та Пекка Абрагамссон з Університету Тампере по-різному оцінюють імовірність найтяжчих сценаріїв розвитку штучного інтелекту. Як повідомляє YLE News, обидва науковці вважають актуальним ризиком зловмисне використання технології, тоді як щодо можливості втрати контролю над ШІ їхні оцінки різняться.
Зловмисне використання ШІ
Одним із трьох сценаріїв, які розглядали ChatGPT і Claude, є застосування штучного інтелекту людьми чи організаціями для кібератак, розроблення вірусів або отримання доступу до зброї масового ураження. Обидві мовні моделі назвали цей варіант найменш імовірним серед трьох, оскільки він передбачає людське управління, а не власні цілі ШІ.
Солін вважає, що головна нинішня небезпека полягає саме у зловмисному використанні технології. За його словами, ШІ вже може допомагати створювати переконливіші онлайн-шахрайства та персоналізований вплив на громадську думку. Він також зазначив, що надалі за допомогою ШІ може стати простішим створення бомб, біологічної або хімічної зброї.
Абрагамссон також назвав найбільшим поточним ризиком використання ШІ зі зловмисною метою. На його думку, недобросовісні суб’єкти можуть залучати «армію» ШІ-агентів для захоплення створеної людьми інфраструктури.
Конфлікт між великими державами
Другий сценарій передбачає, що ШІ-керована гонка озброєнь може порушити баланс сил між великими державами та прискорити ухвалення рішень про атаки. Наприклад, автоматизована кібератака на критичну інфраструктуру однієї з держав може бути витлумачена як воєнна дія, що здатне спричинити відповідний удар і подальшу ескалацію до застосування зброї масового ураження.
Більше актуальних новин читайте у Telegram-каналі UA.News.
Мовні моделі оцінили цей сценарій як проміжний за імовірністю. Ризик зростає, якщо рішення щодо реагування на атаки передають ШІ без участі людини. Абрагамссон наголосив, що автономність системи, широкі повноваження та доступ до великого обсягу даних без людського нагляду створюють складну проблему.
Втрата контролю над системами
На думку опитаних мовних моделей, найімовірнішим із трьох сценаріїв є ситуація, за якої ШІ стане настільки автономним, що люди передадуть йому дедалі більше повноважень, а цілі системи перестануть відповідати людським. У такому разі, за описом сценарію, систему може бути неможливо зупинити.
Абрагамссон висловив занепокоєння, що недостатньо зрозуміла модель ШІ може створювати наступні покоління систем, які буде ще важче зрозуміти та контролювати. Солін, навпаки, оцінює імовірність виходу ШІ з-під контролю як невелику, але вважає, що до такого ризику варто готуватися через високу потенційну ціну помилки.
За словами Соліна, сучасні мовні моделі працюють на серверах та в обчислювальних кластерах, тому люди можуть зупинити процес. Він зазначив, що немає доказів того, що ШІ самостійно переніс власний код на інший сервер і запустив його там.
