专家警告美国选举前将出现AI虚假信息 — 《卫报》

专家表示，在美国中期选举前，社交媒体充斥着前所未有的与人工智能相关的虚假信息。他们认为，许多此类帖文可能逃过审核，而各平台已缩减保护选民免受操纵性信息影响的努力，《卫报》报道。

前Facebook工程师、举报人弗朗西斯·豪根指出，AI显著降低了信息行动的成本，并能够快速生成同一信息的众多版本。她表示，每次内容被删除后都可以稍作修改，一些版本可能通过审核。

有关候选人的虚假信息

在得克萨斯州，竞选美国参议员的民主党人詹姆斯·塔拉里科被虚假指控曾在俄亥俄州一家精神病机构接受治疗。实际上，他因流感暂停了竞选活动。他的竞选团队发布了监控录像，显示该候选人当时在得克萨斯州的家中；塔拉里科本人则表示，他从未去过俄亥俄州。

美洲数字民主研究所追踪了这则虚假信息在保守派西班牙语媒体传播后如何发生变化：所谓住院的说法演变为关于自杀未遂的虚假消息。该组织负责人罗伯塔·布拉加表示，平台规则对英语内容的执行比对西班牙语材料更为一致。

更多最新消息请关注 UA.News Telegram 频道 Telegram.

塔拉里科的共和党对手肯·帕克斯顿也投放了竞选广告，其中使用AI生成的画面，称正在长老会神学院学习的塔拉里科在改写《圣经》。

平台审核有限

Meta要求广告主披露在选举广告中使用合成图像和AI内容的情况，并禁止含有关于投票日期、地点或规则虚假信息的材料。与此同时，该公司对政治评论的审核有限。2023年，YouTube停止删除包含有关2020年美国总统选举及其他此前总统选举存在大规模舞弊虚假说法的内容。

平台X在被埃隆·马斯克收购后，取消了内部安全检查，改用Community Notes计划。其规则禁止有关投票程序和压制投票率方案的虚假信息，但专家认为，如果这些规则未得到适当执行，意图误导受众的合成内容可能会继续传播。