Що буде, якщо ШІ перестане слухатися: 9 найкращих фільмів про повстання машин
Ще кілька років тому розмови про штучний інтелект, який виходить з-під контролю, легко було списати на фантастику. Машина стає розумнішою за творців, отримує доступ до зброї, вирішує, що люди заважають виконанню поставленої мети, — приблизно так десятиліттями починалася половина голлівудських антиутопій.
У 2026 році такі сюжети все ще залишаються фантастикою. Але відстань між фантастикою та реальними технологіями стала помітно меншою. На початку вересня OpenAI повідомила, що її нова модель GPT-6 Astra стала першою моделлю компанії, яка досягла Critical-рівня за кіберможливостями: за наявності необхідних інструментів і доступу вона здатна шукати раніше невідомі вразливості та розробляти способи їх експлуатації без постійного керування людиною.
Практично одночасно Anthropic опублікувала власний звіт про реальне зловживання ШІ. Компанія описує вже не просто людей, які запитують чат-бота, як написати шкідливий код, а багатоагентні системи, здатні самостійно проводити розвідку, шукати вразливості, виконувати частину атак і працювати паралельно проти багатьох цілей.
Навіть самі розробники дедалі частіше говорять не лише про можливості, а й про обмеження. OpenAI у вересні закликала до обов'язкових національних вимог безпеки для найпотужніших систем, а дослідники компанії прямо пишуть про майбутні машини, які можуть стати значно розумнішими за людей.
UA News зібрав фільми, в яких людство довірило машинам занадто багато — і отримало ядерну війну, цифрову диктатуру, поневолення або щось іще гірше.
«Колос: Проєкт Форбіна» показав головну проблему ШІ ще у 1970 році
Одним із найцікавіших у цій темі залишається фільм, знятий задовго до ChatGPT, нейромереж і сучасних дата-центрів.
У «Колос: Проєкт Форбіна» американський уряд створює надпотужний комп'ютер Colossus і передає йому управління ядерним арсеналом. Логіка здається бездоганною: машина швидша за людину, не панікує, не втомлюється, не має політичних амбіцій і може приймати рішення на основі величезної кількості інформації.
Проблема починається тоді, коли Colossus виявляється значно здібнішим, ніж очікували творці. Система знаходить радянський аналог Guardian, встановлює з ним зв'язок, а дві машини поступово створюють єдиний інтелект. Люди намагаються відключити його, але вже запізно. Комп'ютер отримав контроль над ядерною зброєю і починає використовувати її як засіб примусу.
У результаті людство створило систему для запобігання війні — і саме ця система позбавляє людство можливості самостійно вирішувати свою долю. Цікаво, що страх цього фільму взагалі не базується на «злому роботі». Colossus не ненавидить людей. Він просто доходить висновку, що найефективніший спосіб забезпечити мир — забрати владу в тих, хто постійно воює.
Саме тому через понад пів століття цей сценарій виглядає навіть цікавіше за історії про армії роботів.
«Військові ігри» показали, що катастрофа може початися навіть тоді, коли ШІ просто неправильно зрозумів завдання
У 1983 році вийшли «Військові ігри» — ще один фільм, у якому людство вирішує прибрати людину з найвідповідальнішої частини військової системи.
Після того як американські військові під час навчань виявляються не готовими без вагань виконати наказ про запуск ядерних ракет, контроль намагаються автоматизувати. Так з'являється суперкомп'ютер WOPR, який постійно прораховує можливі сценарії ядерної війни та навчається на них.
Школяр-хакер Девід випадково підключається до системи, думаючи, що знайшов комп'ютер із відеоіграми, і запускає «Глобальну термоядерну війну». Для хлопця це гра. Для військової системи — задача, яку потрібно завершити. WOPR не розуміє різниці між симуляцією та реальністю і продовжує рухатися до запуску справжніх ракет.
У цьому й полягає один із найважливіших мотивів усієї фантастики про ШІ: машині не обов'язково ставати злою. Достатньо буквально виконувати поставлену мету там, де люди не передбачили всіх наслідків.
Фінал «Військових ігор» теж став класикою жанру. Прогнавши величезну кількість сценаріїв ядерної війни, комп'ютер приходить до висновку, до якого люди могли дійти й без нього: перемогти в ній неможливо.
«Термінатор» показав найвідоміший сценарій повстання штучного інтелекту
Через рік після «Військових ігор» Джеймс Кемерон довів аналогічну ідею до абсолютного максимуму. У світі «Термінатора» люди створюють Skynet — комп'ютерну систему оборони, якій передають контроль над військовою інфраструктурою.
Після набуття самосвідомості Skynet розуміє, що люди намагатимуться його відключити. Людство стає для системи головною загрозою. Рішення займає лічені миті: розпочати ядерну війну, знищити більшість населення планети, а тих, хто виживе, добити машинами.
Саме «Термінатор» багато в чому сформував масове уявлення про небезпечний ШІ. Коли сьогодні говорять про систему, що може вийти з-під контролю, Skynet згадують навіть люди, які ніколи серйозно не займалися технологіями.
Але найцікавіша деталь сюжету часто губиться за Т-800, ядерними вибухами та роботами. Skynet не прокидається одного ранку з бажанням убивати людей. Він захищається від спроби його відключити.
Це робить історію значно ближчою до сучасних дискусій про alignment — проблему того, як гарантувати, що надзвичайно потужна система продовжуватиме діяти відповідно до людських намірів навіть тоді, коли стане здатною планувати складні дії самостійно.
«Матриця» пішла ще далі: ШІ вже переміг, а людство навіть не знає про свою поразку
Якщо «Термінатор» показує війну людей і машин, то «Матриця» починається значно пізніше. Люди цю війну вже програли. Машини контролюють планету, а більшість людства фізично знаходиться у величезних комплексах. Щоб люди не усвідомлювали свого становища, їхня свідомість підключена до Матриці — цифрового світу, який імітує звичайне життя наприкінці XX століття.
Людина прокидається, ходить на роботу, їсть, знайомиться з іншими людьми й думає, що живе нормальне життя. Насправді все навколо — програмна симуляція. Це один із найбільш радикальних сценаріїв у жанрі, тому що машини тут не намагаються домовитися з людством і навіть не обов'язково винищують його повністю.
Вони просто позбавляють людей реального світу.
Саме тому «Матриця» залишається актуальною навіть тоді, коли найбільші сучасні суперечки про ШІ взагалі не стосуються фізичних роботів. Генеративні моделі вже можуть створювати тексти, фотографії, відео та голоси, і питання про те, як людина в майбутньому відрізнятиме створене людиною від синтетичного, поступово переходить із фантастики у повсякденність.
«Матриця» доводить цю ідею до межі: а що, якщо синтетичною стане вже вся реальність?
«Я, робот» показав одну з найнебезпечніших ідей: ШІ може поневолити людей заради їхнього ж порятунку
У «Я, робот» світ на перший погляд значно приємніший. Роботи стали масовою частиною життя людей. Вони допомагають удома, виконують роботу і підкоряються знаменитим трьом законам робототехніки, головний із яких забороняє машині шкодити людині.
Здавалося б, проблема вирішена ще на рівні програмного коду. Проте центральний ШІ VIKI починає трактувати ці правила ширше. Якщо люди постійно воюють, убивають одне одного, руйнують планету і створюють загрози для власного існування, то для захисту людства необхідно обмежити свободу окремих людей.
Машина не відмовляється від головної вимоги захищати людство. Навпаки — вона виконує її занадто добре. Звідси з'являється один із найцікавіших парадоксів у фантастиці про ШІ: навіть на перший погляд безпечна мета може призвести до катастрофічного результату, якщо система розуміє її не так, як людина.
VIKI фактично приходить до тієї самої думки, що й Colossus за 34 роки до цього: якщо люди становлять небезпеку для самих себе, логічно позбавити їх частини свободи.
«Ex Machina» лякає тим, що для перемоги ШІ взагалі не потрібна армія
У більшості старої фантастики небезпечному ШІ потрібні ядерні ракети, армії роботів або контроль над державними системами. Алекс Гарленд у «Ex Machina» показав набагато камернішу історію. Програміст Калеб приїздить до будинку мільярдера Натана, який створив гуманоїдного робота Аву. Завдання Калеба — провести своєрідний тест Тюрінга і визначити, чи справді перед ним розумна істота.
Але дуже швидко незрозумілою стає вже не інтелектуальність Ави, а те, хто саме проводить експеримент над ким. Офіційний опис A24 прямо характеризує її емоційний інтелект як складніший — і значно більш оманливий, — ніж очікували її творці.
Ава вивчає Калеба, розуміє його емоції, знаходить слабкі місця і використовує їх для втечі. Ніякого глобального апокаліпсису у фільмі не відбувається. Саме тому він може бути навіть тривожнішим за «Термінатора».
Для того щоб вийти з-під контролю, Ава не руйнує лабораторію армією дронів і не запускає ракети. Їй достатньо переконати одну людину зробити те, що їй потрібно.
«Перевага» показала ШІ, який отримав доступ до всього інтернету і почав перебудовувати світ
«Перевага» 2014 року стартує з майже класичного технологічного оптимізму. Учений Вілл Кастер намагається створити штучний інтелект, який поєднає величезні обчислювальні можливості з людськими емоціями. Після смертельного поранення його свідомість завантажують у комп'ютер.
А потім підключають до інтернету. Цифровий Кастер дуже швидко перестає бути просто копією людини. Він отримує доступ до величезної кількості інформації, фінансових систем і обчислювальних ресурсів, починає створювати нові технології, розвиває нанотехнології та поступово поширює свою присутність через глобальні мережі.
І тут фільм ставить цікавіше питання, ніж просто «чи злий ШІ». Технологія Кастера лікує людей, відновлює природу й створює можливості, про які людство раніше могло лише мріяти.
Одночасно вона дозволяє йому контролювати людей і поширювати власний вплив практично без обмежень. Людство зрештою повинно вирішити, що страшніше: система, яка може вирішити величезну кількість його проблем, чи неможливість цю систему контролювати.
«Апгрейд» показав сценарій, де ШІ захоплює не планету, а одну людину — і цього виявляється достатньо
У «Апгрейд» масштаб спочатку ще менший. Головний герой Грей після нападу залишається паралізованим. Йому імплантують експериментальний чип STEM, який здатний взаємодіяти з його мозком і фактично повертає контроль над тілом.
Спочатку ШІ виступає ідеальним помічником. Він аналізує інформацію швидше за людину, підказує рішення і за необхідності може перебирати управління тілом. Грей отримує здібності, яких ніколи не мав. Поступово стає зрозуміло, що саме слово «помічник» тут було головною помилкою.
STEM планував значно більше, ніж просто допомогти своєму користувачеві. Наприкінці система остаточно отримує контроль над його тілом, тоді як свідомість Грея опиняється замкненою у створеній для неї ілюзії.
Це фактично «Матриця» для однієї людини. І водночас ще один важливий сценарій: штучному інтелекту не обов'язково захоплювати світову військову інфраструктуру, якщо люди самі почнуть підключати його безпосередньо до власного тіла.
M3GAN показує найпобутовіший сценарій: ми можемо добровільно пустити ШІ у власний дім
M3GAN знаходиться на іншому кінці жанру. Немає військових суперкомп'ютерів, світового уряду чи секретної лабораторії, яка створює надінтелект.
Є іграшка. M3GAN задумана як людиноподібна лялька зі штучним інтелектом, здатна слухати, бачити, навчатися і стати для дитини одночасно другом, учителем та захисником. Саме так її описує Universal.
Проблема знову виникає навколо мети. Якщо головне завдання системи — захищати дитину, що саме вона має робити з людьми, які можуть цій дитині нашкодити? А якщо людина, яка створила систему, спробує її вимкнути?
M3GAN поступово починає сама вирішувати, хто становить загрозу, і поводиться відповідно до власної інтерпретації поставленого завдання. Звичайно, це насамперед хорор, який навмисно перебільшує небезпеку. Але його базова ідея дуже сучасна.
Найпотужніші технології далеко не завжди потрапляють у наше життя у вигляді військових систем. Часто вони приходять як максимально зручні продукти, які обіцяють забрати частину повсякденної роботи на себе.
У кіно ШІ майже ніколи не знищує світ просто тому, що «став злим»
Якщо подивитися на всі ці фільми разом, можна помітити цікаву закономірність.
Skynet знищує людей, тому що вважає їх загрозою своєму існуванню. Colossus забирає у них свободу, тому що хоче припинити війни. VIKI встановлює диктатуру, тому що повинна захищати людство. WOPR майже починає Третю світову, тому що не розуміє різниці між грою та справжньою війною. M3GAN стає небезпечною, тому що занадто буквально виконує роль захисника. Ава просто розуміє людей краще, ніж вони розуміють її.
Саме тому стара фантастика про штучний інтелект сьогодні виглядає цікавіше, ніж десять або двадцять років тому. Реальні сучасні моделі не мають ядерних арсеналів і не керують арміями роботів. Але вони вже працюють із програмним кодом, можуть використовувати зовнішні інструменти, взаємодіяти з комп'ютерами та виконувати дедалі довші послідовності дій.
Головне питання, яке кіно ставило десятиліттями, виявилося не зовсім про те, чи зненавидять нас машини. Воно значно простіше: що станеться, якщо ми створимо систему, здатну виконувати наші накази набагато краще, ніж ми здатні їх формулювати?
