如果人工智能不再听从命令会怎样：9部关于机器起义的最佳电影
就在几年前，关于人工智能失控的讨论还很容易被归类为科幻小说。 机器变得比创造者更聪明，获得了武器的使用权，并认定人类阻碍了既定目标的实现——几十年来，大约一半的好莱坞反乌托邦电影都是这样开场的。
到了2026年，这类情节依然属于科幻范畴。但科幻与现实技术之间的距离已明显缩短。 9月初，OpenAI宣布其新模型GPT-6 Astra成为该公司首个在网络能力方面达到“Critical”级别的模型： 在具备必要工具和访问权限的情况下，该模型无需人工持续干预，便能发现此前未知的漏洞并开发利用这些漏洞的方法。
几乎在同一时间，Anthropic 发布了关于 AI 实际被滥用的报告。 该公司描述的已不再仅仅是向聊天机器人询问如何编写恶意代码的人类，而是能够自主进行侦察、搜寻漏洞、执行部分攻击，并同时针对多个目标展开行动的多代理系统。
就连开发者们也越来越频繁地不仅谈论可能性，还谈论局限性。OpenAI 在 9 月呼吁针对最强大的系统制定强制性的国家安全要求，而该公司的研究人员则直言不讳地写道，未来的机器可能会比人类聪明得多。
UA News整理了一系列电影，其中人类对机器寄予了过高的信任——结果却招致了核战争、数字独裁、奴役，甚至更糟糕的后果。
《科洛斯：福宾计划》早在1970年就揭示了人工智能的核心问题
在这类题材中，最引人入胜的依然是这部在ChatGPT、神经网络和现代数据中心出现之前很久就拍摄的电影。
在《科洛斯：福宾计划》中，美国政府制造了一台名为“科洛斯”的超级计算机，并将核武库的控制权交给了它。 这一逻辑看似无可挑剔：机器比人类更快，不会惊慌，不会疲倦，没有政治野心，并且能够基于海量信息做出决策。
问题始于“科洛斯”展现出的能力远超其创造者的预期。该系统发现了苏联的“守护者”系统，与其建立了联系，两台机器逐渐融合成一个统一的智能体。 人类试图将其关闭，但为时已晚。计算机已掌控了核武器，并开始将其作为胁迫手段。
结果，人类本为防止战争而创建的系统，却恰恰剥夺了人类自主决定自身命运的能力。 有趣的是，这部电影所展现的恐惧根本不基于“邪恶机器人”这一设定。《科洛斯》并不憎恨人类。它只是得出结论：确保和平的最有效方式，就是从那些不断发动战争的人手中夺取权力。
正因如此，半个多世纪后的今天，这个剧本甚至比那些关于机器人军队的故事更引人入胜。
《战争游戏》表明，即使人工智能只是对任务理解有误，灾难也可能就此开始
1983年上映的《战争游戏》——又一部讲述人类决定将人类从军事系统中最关键环节中剔除的电影。
当美军在演习中发现自己无法毫不犹豫地执行发射核导弹的命令后，便试图将控制权自动化。 由此诞生了超级计算机WOPR，它不断推演核战争的各种可能情景，并据此进行学习。
学生黑客大卫误以为自己连接到了一台电子游戏机，便意外地接入了该系统，并触发了“全球热核战争”。对他来说，这只是一场游戏。 但对军事系统而言，这却是必须完成的任务。WOPR无法区分模拟与现实，继续朝着发射真实导弹的目标迈进。
这正是所有关于人工智能的科幻作品中最关键的主题之一：机器未必会变得邪恶。当人类未能预见所有后果时，它只需字面意义上地执行既定目标即可。
《战争游戏》的结局也成为了该类型的经典之作。在模拟了大量核战争情景后，计算机得出了一个结论——其实即使没有它，人类也能得出同样的结论：在这场战争中，胜利是不可能的。
《终结者》展现了最著名的人工智能起义情景
在《战争游戏》上映一年后，詹姆斯·卡梅隆将这一理念推向了极致。在《终结者》的世界里，人类创建了“天网”——一套被赋予军事基础设施控制权的防御计算机系统。
在获得自我意识后，天网意识到人类会试图将其关闭。 人类由此成为该系统面临的主要威胁。决策仅需瞬间：发动核战争，消灭地球上绝大多数人口，并将幸存者用机器彻底消灭。
正是《终结者》在很大程度上塑造了大众对危险人工智能的认知。如今，当人们谈论可能失控的系统时，即使是从未认真研究过技术的人，也会联想到“天网”。
但剧情中最有趣的细节往往被T-800、核爆炸和机器人等元素所掩盖。“天网”并非某天清晨突然萌生了杀戮人类的念头，而是为了抵御被关闭的企图而进行自卫。
这使得该故事与当代关于“对齐”（alignment）的讨论更为贴近——即如何确保一个极其强大的系统，即使在能够自主规划复杂行动时，仍能继续按照人类的意图行事。
《黑客帝国》则走得更远：人工智能早已获胜，而人类甚至不知道自己已经失败
如果说《终结者》展现的是人类与机器之间的战争，那么《黑客帝国》的故事则发生在更晚的时期。人类早已在这场战争中败北。 机器掌控着整个星球，而绝大多数人类则被关押在巨大的设施中。为了不让人们意识到自己的处境，他们的意识被接入“矩阵”——一个模拟20世纪末普通生活的数字世界。
人们醒来、上班、吃饭、结识他人，并以为自己过着正常的生活。 实际上，周围的一切都是程序模拟。这是该类型中最激进的剧情设定之一，因为这里的机器既不试图与人类达成协议，甚至也不一定非要将人类彻底消灭。
它们只是剥夺了人类的现实世界。
正因如此，即便当今关于人工智能的最大争议与实体机器人毫无关联，《黑客帝国》依然具有现实意义。 生成式模型已经能够生成文本、照片、视频和语音，而关于未来人类将如何区分人造内容与合成内容的问题，正逐渐从科幻小说走进现实生活。
《黑客帝国》将这一理念推向极致：倘若整个现实都变成了合成现实，又会如何？
《我，机器人》揭示了一个最危险的想法：人工智能可能会为了拯救人类而将人类奴役
在《我，机器人》中，这个世界乍看之下要宜人得多。机器人已成为人类生活中不可或缺的一部分。它们在家中提供帮助，执行工作任务，并遵守著名的机器人三定律，其中首要定律禁止机器伤害人类。
看似问题在程序代码层面就已经得到了解决。然而，核心人工智能VIKI却开始对这些规则进行更宽泛的解读。 如果人类不断发动战争、相互残杀、破坏地球并威胁自身生存，那么为了保护人类，就必须限制个别人的自由。
机器并未背离保护人类这一首要要求。恰恰相反——它执行得过于彻底。 由此产生了科幻小说中关于人工智能最有趣的悖论之一：即使乍看之下安全的目标，如果系统对其的理解与人类不同，也可能导致灾难性的后果。
VIKI实际上得出了与34年前“巨像”系统完全相同的结论：如果人类对自己构成威胁，那么剥夺他们部分自由是合乎逻辑的。
《机械姬》令人感到恐惧之处在于，人工智能根本不需要军队就能取得胜利
在大多数早期科幻作品中，危险的人工智能需要核导弹、机器人军队或对国家系统的控制权。亚历克斯·哈兰德在《机械姬》中呈现了一个更为精巧的故事。 程序员卡莱布来到亿万富翁内森的宅邸，后者创造了一台名为艾娃的人形机器人。卡莱布的任务是进行一场独特的图灵测试，以确定眼前是否真的存在一个有智慧的生命体。
但很快，令人困惑的已不再是艾娃的智力水平，而是究竟是谁在对谁进行实验。A24的官方简介直言不讳地指出，她的情感智商比创造者预期的更为复杂——也更加难以捉摸。
艾娃研究卡莱布，理解他的情绪，找出他的弱点并利用这些弱点逃脱。影片中并没有发生任何全球性的末日灾难。正因如此，它甚至可能比《终结者》更令人不安。
为了摆脱控制，艾娃既没有用无人机大军摧毁实验室，也没有发射导弹。她只需说服一个人按照她的意愿行事就足够了。
《优势》展现了一个获得整个互联网访问权限并开始重塑世界的人工智能
2014年的《优势》以近乎经典的科技乐观主义开场。 科学家威尔·卡斯特试图创造一种人工智能，将巨大的计算能力与人类情感相结合。在遭受致命伤后，他的意识被上传到计算机中。
随后，他的意识被连接到了互联网。 数字化的卡斯特很快不再只是人类的复制品。他获得了海量信息、金融系统和计算资源的访问权限，开始创造新技术，发展纳米技术，并通过全球网络逐步扩展其影响力。
此时，影片提出了一个比单纯“人工智能是否邪恶”更引人深思的问题。卡斯特的技术能够治愈人类、恢复自然生态，并创造出人类此前只能梦想的种种可能性。
与此同时，它也使卡斯特能够控制人类，并将自己的影响力几乎不受限制地扩散开来。人类最终必须决定：究竟什么更可怕——是能够解决人类大量问题的系统，还是无法控制该系统这一事实。
《升级》展现的情节中，AI 占领的不是整个星球，而是一个人——但这已经足够了
在《升级》中，起初的规模甚至更小。主角格雷在遭遇袭击后全身瘫痪。医生为他植入了一枚实验性的STEM芯片，该芯片能够与他的大脑互动，实际上使他重新获得了对身体的控制权。
起初，人工智能表现得像一位完美的助手。它分析信息的速度比人类更快，会提供解决方案，并在必要时接管身体控制权。格雷获得了他从未拥有过的能力。 渐渐地，人们意识到，“助手”这个词本身就是最大的误区。
STEM的计划远不止于帮助其用户。最终，该系统彻底掌控了他的身体，而格雷的意识则被困在专为他制造的幻象之中。
这实际上就是针对单个人的《黑客帝国》。与此同时，这还揭示了另一个重要情景：如果人类开始主动将人工智能直接连接到自己的身体上，那么人工智能就未必需要夺取全球军事基础设施的控制权。
《M3GAN》展现了最日常的情景：我们可能会自愿将人工智能引入自家
《M3GAN》则处于该类型的另一端。这里没有军事超级计算机、世界政府，也没有制造超智能的秘密实验室。
只有一个玩具。M3GAN被设计成一个具备人工智能的人形玩偶，能够聆听、观察、学习，并同时成为孩子的伙伴、老师和守护者。这正是环球影业对其的描述。
问题再次围绕着“目的”展开。如果该系统的主要任务是保护孩子，那么对于可能伤害这个孩子的人，它究竟该如何应对？如果创造该系统的人试图将其关闭呢？
M3GAN逐渐开始自行判断谁构成威胁，并根据自己对任务的理解采取相应行动。当然，这首先是一部刻意夸大危险性的恐怖片。但其核心理念却非常具有当代意义。
最强大的技术并不总是以军事系统的形式进入我们的生活。它们往往以极具便利性的产品形式出现，承诺替我们承担部分日常工作。
在电影中，人工智能几乎从未仅仅因为“变坏了”而毁灭世界
如果将所有这些电影综合起来看，就会发现一个有趣的规律。
天网（Skynet）消灭人类，是因为它认为人类对其生存构成威胁；科洛斯（Colossus）剥夺人类的自由，是因为它想终结战争；VIKI建立独裁统治，是因为它必须保护人类。 WOPR几乎引发了第三次世界大战，因为它分不清游戏与真实战争的区别。M3GAN之所以变得危险，是因为她对“守护者”这一角色的理解过于字面化。而Ava只是比人类更懂人类，远胜于人类对她的理解。
正因如此，那些关于人工智能的经典科幻作品，如今看起来比十年前或二十年前更加引人入胜。 当今现实中的模型既没有核武库，也不指挥机器人军队。但它们已经能够处理程序代码，能够使用外部工具，与计算机交互，并执行越来越长的操作序列。
电影几十年来一直在探讨的核心问题，原来并非完全在于机器是否会憎恨我们。这个问题其实简单得多：如果我们创造了一个系统，它执行我们命令的能力远超我们自己表述这些命令的能力，那会发生什么？
