从“假拜登”到“数字博索纳罗”：人工智能如何成为选举参与者
就在几年前，政治中的深度伪造（deepfakes）看起来更像是一个技术恐吓：一段经过剪辑的视频，让候选人说出他从未说过的话、一张假照片或一个被篡改的声音。而在 2024 年，随着美国总统大选的举行，这种威胁成为了现实。
到了 2026 年，政治领域又向前迈进了一步——如今，人工智能不仅可以伪造候选人，还可以在竞选活动中实际替代候选人。
7 月底，巴西前总统雅伊尔·博尔索纳罗“现身”在其儿子弗拉维奥的总统竞选启动仪式上，这一幕出乎所有人意料。这位政治家本人并未出席，博尔索纳罗目前正处于软禁之中，公开交流受限，但通过人工智能为其创建的数字虚拟形象，他在支持者面前发表了讲话。
与传统的深度伪造不同，发起人甚至没有隐瞒使用人工智能的事实。虚拟形象告知观众它是通过人工智能生成的，随后呼吁支持者支持弗拉维奥·博尔索纳罗。反对派已经就这段视频向选举法院提起了诉讼。
UA.News 深入探讨了人工智能如何从制造政治深度伪造的工具逐步转变为竞选活动的正式参与者，以及在 2024 年美国大选中 AI 是如何被用于操纵选民的。
博尔索纳罗未上台，但他的虚拟形象在进行拉票
雅伊尔·博尔索纳罗并未亲自参加巴西总统大选。但这位前总统的政治资本依然是其竞选总统的儿子弗拉维奥的重要资产。
正是在这里，这项技术创造了一种以前根本不存在的可能性。
在 7 月 25 日的竞选发布会上，屏幕上出现了数字博尔索纳罗。他的 AI 虚拟形象宣称，没有任何监狱能让其发起的政治运动销声匿迹，随后呼吁支持者接受他的儿子作为接班人。
这个问题不仅具有技术属性，还具有法律属性。博尔索纳罗被禁止进行公开交流，但目前尚不清楚这种禁令是否适用于他人对其形象进行的数字复现。
由左翼和中左翼政党组成的联盟已向选举法院提起诉讼。他们主张，巴西的规则禁止使用能够复制真实人物以影响选民意愿的合成内容。
弗拉维奥·博尔索纳罗的团队对此予以否认。他们的论点很简单：观众没有被欺骗，因为他们被明确告知眼前看到的是人工智能。此外，在博尔索纳罗团队看来，该视频并非传统的深度伪造。
巴西高等选举法院院长卡西奥·努内斯·马克斯（Cássio Nunes Marques）表示，在竞选活动中使用 AI 本身是允许的，只有当技术被用于造成伤害时才构成违规。该案件仍有待法院评估。
因此，巴西的这场竞选活动实际上成为了检验“在多大程度上可以利用真实政治人物的数字复本”的早期重大测试之一。
但这个问题本身出现得要早得多。
“我是拜登，致电给您”：AI 如何尝试影响美国投票
2024 年初，美国选民直观地见证了借助人工智能进行政治操纵的成本变得多么低廉和普及。
1 月 21 日——就在新罕布什尔州民主党初选前两天——数千名潜在选民开始接到自动语音电话。
他们在听筒里听到了时任美国总统乔·拜登的声音。
“拜登”劝说民主党人不要在初选时投票，并将他们的选票“留给”11 月的总统大选。
真正的乔·拜登从未录制过这样的呼吁。
正如美国联邦通信委员会（FCC）所确定的那样，该声音是通过生成式人工智能创建的。该活动的组织者是政治顾问史蒂夫·克雷默（Steve Kramer）。
行动的规模尤其具有代表性。根据 FCC 的文件，仅在 1 月 21 日傍晚，该系统就向新罕布什尔州的潜在选民发起了 9581 通电话。
除了声音本身，组织者还使用了另一个把戏——主叫号码伪装（caller ID spoofing）。接收者的手机上显示了一个与某人相关的号码，该人曾领导过该州的民主党，并参与了支持拜登的活动。
也就是说，该方案同时由两个信任层组成：熟悉的总统声音和来自当地民主党圈子某人的电话号码。
但最令人惊讶的是该行动技术部分的成本。
根据FCC 的材料，该声音是通过 ElevenLabs 服务创建的。制作该录音的人因这项工作获得了约 150 美元的报酬。
事实上，只需花费低于一部经济型智能手机的金额，就能模拟出美国总统的声音，并在投票前夕将其呼叫到近一万名潜在选民那里。
随后，FCC因非法的自动语音电话活动和篡改主叫号码向克雷默罚款 600 万美元。
在此事件之后，美国监管机构专门确认，人工智能生成的语音受制于关于人工和预录语音消息的法律限制。
但 2024 年的大选表明，问题并不局限于一个虚假的拜登。
从未被拍摄过的特朗普
另一个具有代表性的例子出现在美国总统大选初期。
社交网络上流传着唐纳德·特朗普与一群非裔美国人的合影。在图像中，他们微笑着、拥抱着候选人并一起拍照。
事实上，这些会面从未发生过。
这些图像是由人工智能生成器创建的。这些图片与特朗普的官方竞选活动没有直接联系，但部分网民将其作为真实照片进行传播。
由此营造出一种印象，即该候选人在非裔美国人中获得的支持度远超实际情况。
这个案例很好地展示了政治 AI 的另一个问题。
为了进行操纵，已经无需再强迫候选人说出什么丑闻。有时，只需创造一个从未存在过的现实就足够了。
候选人可以“访问”工厂、会见退伍军人、拥抱农场主、与军人交流，或者置身于某些特定族裔或社会群体之中。
一张 AI 图片未必会改变选举结果。但成千上万张这样的图像可以逐渐在选民心中塑造出关于候选人的某种特定形象。
并且现在几乎可以以工业化的规模来做到这一点。
俄罗斯和伊朗也曾在美国大选中使用了 AI
外部施加的影响活动则成为了更加严重的问题。
2024 年 9 月，美国情报部门通报称，俄罗斯和伊朗已经开始使用生成式 AI 来加强针对美国选民的行动。
根据美国国家情报总监办公室的评估，在主要外国行为体中，俄罗斯生成了与美国大选相关的最大体量 AI 内容。涉及的内容包括文本、图像、音频和视频。
俄罗斯的活动利用这些材料来抹黑个别政治人物、推广阴谋论叙事，并加剧社会争端，特别是在移民问题周围。
据美国情报部门称，伊朗则利用 AI 来创建社交媒体发帖并为伪装成新闻资源的网站撰写材料。
中国也在更广泛的信息行动中应用了 AI，尽管美国情报部门当时并未发现具体针对美国总统大选结果的中国专项活动。
俄罗斯的“双面人”（Doppelganger）行动则成了另一个独立的事件。
2024 年 9 月，美国司法部宣布查封了 32 个互联网域名，这些域名曾被用于俄罗斯的隐蔽影响力活动。
按美国当局的说法，与俄罗斯相关的结构创建了模仿知名美国媒体的网站，并使用了虚假账号、广告、网红以及包括使用人工智能生成的内容。
该系统的一个目标是削弱国际社会对乌克兰的支持、加剧西方国家的内部矛盾并影响美国受众。
在大选前夕，美国特工部门已经直接指责俄罗斯制作虚假政治视频。
例如，美国国家情报总监办公室通报了一段据称显示海地公民在佐治亚州非法投票的视频。美国当局称其为俄罗斯的虚假宣传。
在这种情况下，技术并没有创造出一种原则上全新的宣传方式，而是让旧的宣传变得更便宜、更快、更大规模。
从深度伪造（deepfake）到数字候选人
正因如此，博尔索纳罗的故事与 2024 年的大多数案例有所不同。
当时的主要危险是：有人利用 AI 把虚假信息伪装成政治人物的真实言论。
而现在出现了另一种模式：政治人物自身的数字形象正成为竞选活动的合法或半合法参与者。
这是一个要复杂得多、严重得多的问题。
如果说深度伪造试图欺骗选民，那么 AI 虚拟形象则可以坦白告知：“我是由人工智能生成的”。
然后——进行拉票。这为这项技术打开了巨大的空间。
政治人物可以录制自己数小时的声音和视频，然后模型就可以生成几乎无限数量的讲话。
一个政治人物在肉体上只能身处一个城市，而他的数字复本却可以同时出现在数百个城市。
它可以在早晨向某一个地区的农民发表讲话，在下午向另一个地区的企业家发表讲话，在傍晚向学生发表讲话，并且针对每一个受众谈论他们最关心的话题。
下一步就是互动性。选民或许不再只能看预先录制好的视频，而是有机会与 AI 候选人进行对话。
从技术上讲，要做到这一点已经不需要等待任何根本性的新技术出现。语音模型、视频生成、大语言模型和数字虚拟形象都已经独立存在，剩下的只是将它们整合起来。
如果 AI 候选人说了一些违法的话怎么办
正是在这里，进入了绝大多数选举法根本没有做好准备的法律领域。
假设竞选团队创建了候选人的官方 AI 虚拟形象。该模型与选民进行了数十万次个性化对话。
在其中一次对话中，AI 向某个人承诺用国家资金换取其选票。或者发表了关于竞争对手的诽谤性言论。或者表达了与候选人官方纲领相矛盾的立场。
这话是谁说的？候选人？竞选团队？模型的开发者？提供技术的公司？还是这仅仅是“AI 的错误”？今天，对于这些问题还没有明确的普遍答案。
甚至在 2024 年竞选期间，美国也主要是通过各个州各自的层面来监管政治深度伪造的。
根据美国全国州议会会议（NCSL）的数据，2024 年，有一批州通过了关于在选举中使用人工智能和合成内容的规则。
加利福尼亚州、亚拉巴马州、科罗拉多州、佛罗里达州、新罕布什尔州、俄勒冈州、犹他州、威斯康星州和其他州出台了标记合成政治材料的要求，或者限制在大选前夕传播误导性的深度伪造内容。
但即便是完美的标记也只能解决欺骗的问题。
它并没有回答另一个问题：当政治人物自己允许创建自己的数字复本时，该怎么办？
政治人物可能不再是一个“独一无二”的人
这很可能成为未来几轮选举中最大的变化。几个世纪以来，政治人物一直存在着一种天然的限制——他自己的时间。
他不可能同时举行十场集会，不可能亲自与百万选民对话，也不可能给每个人提供个性化的答复。人工智能消除了这种限制。
数字候选人潜在地可以进行数百万次平行的对话，而且可以与每位选民进行略有不同的交谈。
对于饱受通货膨胀之苦的人，他会谈论物价；对于企业家，他会谈论税收；对于学生，他会谈论教育；对于军人，他会谈论国防。
如果再加上用户的年龄、居住地、兴趣和互联网行为的数据，政治广告可以转变为几近个性化的宣传。
不再是为 3000 万公民提供同一份竞选纲领，而是可以有条件地为 3000 万人提供同一份纲领的 3000 万个略有不同的版本。
而记者、选举委员会和反对派要监控这样的系统，将比监控电视广告或集会演讲困难得多。
最大的危险，也许甚至不在于我们会相信虚假信息
还有另一种效应，其危险性可能超过深度伪造本身。
如果虚假的照片、声音和视频变得太多，社会就会逐渐停止信任任何数字证据。
这就造成了一个悖论。以前，政治人物害怕有人会伪造他的视频。现在，如果出现了真正的黑料，政治人物可以利用深度伪造本身的存在作为保护伞。
令人不快的音频？“这是 AI”。丑闻视频？“深度伪造”。对话录音？“克隆的声音”。
在信息操纵的研究中，这种现象被称为 liar's dividend——一种“骗子的红利”。社会对数字伪造可能性的了解越多，人们就越容易否认哪怕是真实的证据。
