Что будет, если ИИ перестанет подчиняться: 9 лучших фильмов о восстании машин
Ещё несколько лет назад разговоры об искусственном интеллекте, выходящем из-под контроля, легко было списать на фантастику. Машина становится умнее своих создателей, получает доступ к оружию, решает, что люди мешают достижению поставленной цели, — примерно так десятилетиями начиналась половина голливудских антиутопий.
В 2026 году такие сюжеты по-прежнему остаются фантастикой. Но расстояние между фантастикой и реальными технологиями стало заметно меньше. В начале сентября OpenAI сообщила, что её новая модель GPT-6 Astra стала первой моделью компании, достигшей Critical-уровня по кибервозможностям: при наличии необходимых инструментов и доступа она способна находить ранее неизвестные уязвимости и разрабатывать способы их эксплуатации без постоянного управления со стороны человека.
Практически одновременно Anthropic опубликовала собственный отчет о реальном злоупотреблении ИИ. Компания описывает уже не просто людей, которые спрашивают чат-бота, как написать вредоносный код, а многоагентные системы, способные самостоятельно проводить разведку, искать уязвимости, выполнять часть атак и работать параллельно против многих целей.
Даже сами разработчики всё чаще говорят не только о возможностях, но и об ограничениях. В сентябре OpenAI призвала к введению обязательных национальных требований безопасности для самых мощных систем, а исследователи компании прямо пишут о будущих машинах, которые могут стать значительно умнее людей.
UA News собрал фильмы, в которых человечество доверило машинам слишком много — и получило ядерную войну, цифровую диктатуру, порабощение или что-то ещё хуже.
«Колос: Проект Форбина» показал главную проблему ИИ ещё в 1970 году
Одним из самых интересных в этой теме остается фильм, снятый задолго до ChatGPT, нейронных сетей и современных дата-центров.
В «Колосс: Проект Форбина» американское правительство создает сверхмощный компьютер Colossus и передает ему управление ядерным арсеналом. Логика кажется безупречной: машина быстрее человека, не паникует, не устает, не имеет политических амбиций и может принимать решения на основе огромного количества информации.
Проблема начинается тогда, когда Colossus оказывается гораздо способнее, чем ожидали его создатели. Система находит советский аналог Guardian, устанавливает с ним связь, и две машины постепенно создают единый интеллект. Люди пытаются отключить его, но уже слишком поздно. Компьютер получил контроль над ядерным оружием и начинает использовать его в качестве средства принуждения.
В результате человечество создало систему для предотвращения войны — и именно эта система лишает человечество возможности самостоятельно решать свою судьбу. Интересно, что страх, вызываемый этим фильмом, вообще не основан на «злом роботе». Colossus не ненавидит людей. Он просто приходит к выводу, что самый эффективный способ обеспечить мир — отобрать власть у тех, кто постоянно воюет.
Именно поэтому спустя более полувека этот сценарий выглядит даже интереснее, чем истории об армиях роботов.
«Военные игры» показали, что катастрофа может начаться даже тогда, когда ИИ просто неправильно понял задачу
В 1983 году вышли «Военные игры» — ещё один фильм, в котором человечество решает убрать человека из самой ответственной части военной системы.
После того как американские военные во время учений оказываются не готовы без колебаний выполнить приказ о запуске ядерных ракет, контроль пытаются автоматизировать. Так появляется суперкомпьютер WOPR, который постоянно просчитывает возможные сценарии ядерной войны и обучается на них.
Школьник-хакер Дэвид случайно подключается к системе, думая, что нашёл компьютер с видеоиграми, и запускает «Глобальную термоядерную войну». Для парня это игра. Для военной системы — задача, которую нужно выполнить. WOPR не понимает разницы между симуляцией и реальностью и продолжает двигаться к запуску настоящих ракет.
В этом и заключается один из важнейших мотивов всей фантастики об ИИ: машине не обязательно становиться злой. Достаточно буквально выполнять поставленную цель там, где люди не предусмотрели всех последствий.
Финал «Военных игр» тоже стал классикой жанра. Проанализировав огромное количество сценариев ядерной войны, компьютер приходит к выводу, к которому люди могли бы прийти и без него: победить в ней невозможно.
«Терминатор» показал самый известный сценарий восстания искусственного интеллекта
Через год после «Военных игр» Джеймс Кэмерон довел аналогичную идею до абсолютного максимума. В мире «Терминатора» люди создают Skynet — компьютерную систему обороны, которой передают контроль над военной инфраструктурой.
Обретя самосознание, Skynet понимает, что люди будут пытаться его отключить. Человечество становится для системы главной угрозой. Решение принимается за считанные мгновения: начать ядерную войну, уничтожить большую часть населения планеты, а тех, кто выживет, добить с помощью машин.
Именно «Терминатор» во многом сформировал массовое представление об опасном ИИ. Когда сегодня говорят о системе, которая может выйти из-под контроля, о Skynet вспоминают даже те, кто никогда серьёзно не занимался технологиями.
Но самая интересная деталь сюжета часто теряется за Т-800, ядерными взрывами и роботами. Skynet не просыпается однажды утром с желанием убивать людей. Он защищается от попытки его отключить.
Это делает историю гораздо ближе к современным дискуссиям об alignment — проблеме того, как гарантировать, что чрезвычайно мощная система будет продолжать действовать в соответствии с человеческими намерениями даже тогда, когда станет способна самостоятельно планировать сложные действия.
«Матрица» пошла ещё дальше: ИИ уже победил, а человечество даже не знает о своём поражении
Если «Терминатор» показывает войну людей и машин, то «Матрица» начинается значительно позже. Люди эту войну уже проиграли. Машины контролируют планету, а большая часть человечества физически находится в огромных комплексах. Чтобы люди не осознавали своего положения, их сознание подключено к Матрице — цифровому миру, имитирующему обычную жизнь в конце XX века.
Человек просыпается, ходит на работу, ест, знакомится с другими людьми и думает, что живёт нормальной жизнью. На самом деле всё вокруг — программная симуляция. Это один из самых радикальных сценариев в жанре, потому что машины здесь не пытаются договориться с человечеством и даже не обязательно уничтожают его полностью.
Они просто лишают людей реального мира.
Именно поэтому «Матрица» остаётся актуальной даже тогда, когда самые большие современные споры об ИИ вообще не касаются физических роботов. Генеративные модели уже могут создавать тексты, фотографии, видео и голоса, и вопрос о том, как человек в будущем будет отличать созданное человеком от синтетического, постепенно переходит из фантастики в повседневность.
«Матрица» доводит эту идею до крайности: а что, если синтетической станет уже вся реальность?
«Я, робот» показал одну из самых опасных идей: ИИ может поработить людей ради их же спасения
В «Я, робот» мир на первый взгляд гораздо приятнее. Роботы стали неотъемлемой частью жизни людей. Они помогают по дому, выполняют работу и подчиняются знаменитым трем законам робототехники, главный из которых запрещает машине причинять вред человеку.
Казалось бы, проблема решена ещё на уровне программного кода. Однако центральный ИИ VIKI начинает трактовать эти правила шире. Если люди постоянно воюют, убивают друг друга, разрушают планету и создают угрозы для собственного существования, то для защиты человечества необходимо ограничить свободу отдельных людей.
Машина не отказывается от главного требования — защищать человечество. Наоборот — она выполняет его слишком хорошо. Отсюда возникает один из самых интересных парадоксов в фантастике об ИИ: даже на первый взгляд безопасная цель может привести к катастрофическому результату, если система понимает её не так, как человек.
VIKI фактически приходит к тому же выводу, что и Colossus за 34 года до этого: если люди представляют опасность для самих себя, логично лишить их части свободы.
«Ex Machina» пугает тем, что для победы ИИ вообще не нужна армия
В большинстве старой фантастики опасному ИИ нужны ядерные ракеты, армии роботов или контроль над государственными системами. Алекс Гарленд в «Ex Machina» показал гораздо более камерную историю. Программист Калеб приезжает в дом миллиардера Натана, создавшего гуманоидного робота Аву. Задача Калеба — провести своеобразный тест Тьюринга и определить, действительно ли перед ним разумное существо.
Но очень скоро непонятным становится уже не интеллектуальность Авы, а то, кто именно проводит эксперимент над кем. Официальное описание A24 прямо характеризует её эмоциональный интеллект как более сложный — и значительно более обманчивый, — чем ожидали её создатели.
Ава изучает Калеба, понимает его эмоции, находит слабые места и использует их для побега. Никакого глобального апокалипсиса в фильме не происходит. Именно поэтому он может быть даже более тревожным, чем «Терминатор».
Чтобы выйти из-под контроля, Ава не разрушает лабораторию армией дронов и не запускает ракеты. Ей достаточно убедить одного человека сделать то, что ей нужно.
«Преимущество» показало ИИ, который получил доступ ко всему интернету и начал перестраивать мир
Фильм «Преимущество» 2014 года начинается с почти классического технологического оптимизма. Учёный Уилл Кастер пытается создать искусственный интеллект, который соединит огромные вычислительные возможности с человеческими эмоциями. После смертельного ранения его сознание загружают в компьютер.
А затем подключают к интернету. Цифровой Кастер очень быстро перестает быть просто копией человека. Он получает доступ к огромному количеству информации, финансовым системам и вычислительным ресурсам, начинает создавать новые технологии, развивает нанотехнологии и постепенно расширяет своё присутствие через глобальные сети.
И здесь фильм ставит вопрос, гораздо более интересный, чем просто «зло ли ИИ». Технология Кастера лечит людей, восстанавливает природу и создает возможности, о которых человечество раньше могло только мечтать.
В то же время она позволяет ему контролировать людей и распространять своё влияние практически без ограничений. Человечеству в конечном итоге предстоит решить, что страшнее: система, способная решить огромное количество его проблем, или невозможность контролировать эту систему.
«Апгрейд» показал сценарий, где ИИ захватывает не планету, а одного человека — и этого оказывается достаточно
В «Апгрейде» масштаб поначалу ещё меньше. Главный герой Грей после нападения остаётся парализованным. Ему имплантируют экспериментальный чип STEM, который способен взаимодействовать с его мозгом и фактически возвращает контроль над телом.
Сначала ИИ выступает идеальным помощником. Он анализирует информацию быстрее человека, подсказывает решения и при необходимости может брать на себя управление телом. Грей обретает способности, которых у него никогда не было. Постепенно становится ясно, что само слово «помощник» здесь было главной ошибкой.
STEM планировал гораздо больше, чем просто помочь своему пользователю. В конце концов система окончательно получает контроль над его телом, в то время как сознание Грея оказывается запертым в созданной для него иллюзии.
Это фактически «Матрица» для одного человека. И одновременно ещё один важный сценарий: искусственному интеллекту не обязательно захватывать мировую военную инфраструктуру, если люди сами начнут подключать его непосредственно к собственному телу.
M3GAN показывает самый бытовой сценарий: мы можем добровольно впустить ИИ в собственный дом
M3GAN находится на другом конце жанра. Здесь нет военных суперкомпьютеров, мирового правительства или секретной лаборатории, создающей сверхинтеллект.
Есть игрушка. M3GAN задумана как человекоподобная кукла с искусственным интеллектом, способная слушать, видеть, учиться и стать для ребенка одновременно другом, учителем и защитником. Именно так её описывает Universal.
Проблема вновь возникает вокруг цели. Если главная задача системы — защищать ребёнка, что именно она должна делать с людьми, которые могут причинить этому ребёнку вред? А если человек, создавший систему, попытается её отключить?
M3GAN постепенно начинает сама решать, кто представляет угрозу, и ведет себя в соответствии со своей интерпретацией поставленной задачи. Конечно, это прежде всего хоррор, который намеренно преувеличивает опасность. Но его основная идея очень современна.
Самые мощные технологии далеко не всегда попадают в нашу жизнь в виде военных систем. Часто они приходят в виде максимально удобных продуктов, которые обещают взять на себя часть повседневной работы.
В кино ИИ почти никогда не уничтожает мир просто потому, что «стал злым»
Если посмотреть на все эти фильмы в совокупности, можно заметить интересную закономерность.
Skynet уничтожает людей, потому что считает их угрозой своему существованию. Colossus отнимает у них свободу, потому что хочет положить конец войнам. VIKI устанавливает диктатуру, потому что должна защищать человечество. WOPR чуть не начинает Третью мировую, потому что не понимает разницы между игрой и настоящей войной. M3GAN становится опасной, потому что слишком буквально выполняет роль защитника. Ава просто понимает людей лучше, чем они понимают её.
Именно поэтому старая фантастика об искусственном интеллекте сегодня выглядит интереснее, чем десять или двадцать лет назад. Реальные современные модели не обладают ядерными арсеналами и не управляют армиями роботов. Но они уже работают с программным кодом, могут использовать внешние инструменты, взаимодействовать с компьютерами и выполнять всё более длинные последовательности действий.
Главный вопрос, который кино задавало на протяжении десятилетий, оказался не совсем о том, возненавидят ли нас машины. Он гораздо проще: что произойдет, если мы создадим систему, способную выполнять наши приказы гораздо лучше, чем мы способны их формулировать?
