【文/观察者网 廖一恒】

随着AI时代的到来，今年的美国大选也被部分学者视为是第一次“大规模使用人工智能来影响选民的选举”，本次选举中发生的诸多事件也印证了美国国内诸多人士对于大语言模型介入选举会对美式民主制度产生负面影响的担忧。如果说2023年发生在斯洛伐克大选中的AGI深度伪造录音事件只是AI介入大选的首批案例，那如今正在进行的美国大选则可以视为AGI介入选举的大乱斗了。

8月初，特朗普就指控“在底特律集会现场，哈里斯下飞机时有数千人在等候她的照片是AI伪造的！”，虽然遭到了哈里斯团队的否认，包括路透社在内的多家媒体的调查团队也为哈里斯正名，哈里斯集会现场的浩大声势确有其事，但也由此可以看出美国人民对AI技术介入选举的神经已经绷得很紧了。

当地时间8月7日，一群人正在密歇根州罗穆卢斯机场等待副总统卡马拉·哈里斯和明尼苏达州州长蒂姆·沃尔兹参加竞选集会。唐纳德·特朗普曾对集会人数大发雷霆，并对活动照片提出了虚假指控。网络图片

无独有偶，在今年的7月26日，马斯克就在自家平台X上分享了一段关于哈里斯的深度伪造视频，并配文“This is amazing”和一个大笑的表情包。在这个视频里，有很多哈里斯竞选团队先前的竞选广告素材，还有一段足以挑起美国性别和种族矛盾的哈里斯旁白：“我是女性，也是有色人种，如果你们批评我说的任何话，那你就是性别歧视和种族主义者”。

这段视频观看量在三天内破亿，并引起轩然大波。事实上，这个视频并非由哈里斯本人拍摄，而是由生成式人工智能合成，同时配以合成的哈里斯声线，相当逼真。但马斯克并未在帖子里标注该视频是伪造的。

哈里斯的竞选团队对此表示严重抗议，并在声明中强调：“本次事件就是一个很好的例子，它为人们展现了随着美国总统大选的临近，人工智能生成的逼真图像、视频或音频片段是如何被用用来取笑和误导政治的。”

马斯克在自家社交媒体X上转载的视频。该视频由生成式人工智能（AGI）合成，并融合了一些真实的竞选信息，十分逼真。网络图片

事实上，AI技术介入美国大选的剧情从今年年初就已经开始上演。早在拜登还未退选时，就出现了“AI拜登”扰乱新罕布什尔州初选的事件。据相关报道，一些选民在今年1月21日先后接到了用拜登的合成声线打来的电话，要求各位选民将票留到11月的最终选举，并声称如果参与该场党内初选，后续就不能再参与最终的选举。事后，加利福尼亚大学伯克利分校的数字鉴定专家哈尼·法里德证实，电话声音实际由“相对低劣”的人工智能技术伪造。

随后，在今年的2月25日，民主党总统竞选人、国会众议员菲利普斯的政治顾问克莱默（Steve Kramer）承认是自己雇佣了卡本特，请卡本特通过AI软件炮制出了拜登的声线并策划了本次电话风波，打给选民只是为了“提醒民众防范AI遭误导性应用”。

魔术师卡本特对媒体描述自己被要求制作“假拜登来电”音频的过程。网络图片

美国两党在大选上的AI较量早已展开。民主党也已经见识过共和党在AI运用上大胆和老道的经验。

在今年3月，美国社交媒体上不断出现特朗普与黑人选民的合照。BBC实事纪实节目《广角镜》（Panorama）的调查组发现，这些图片的共性是都将黑人群体描绘为支持前总统特朗普的样子，并暗示大家将选票投给共和党。这些图片在事实上推动了一种战略叙事：特朗普现在在黑人社区中大受欢迎。要知道黑人选民是拜登在2020年大选中获胜的关键。

当然，最后发现这些深度伪造的虚假图片，但在传播过程中，这些深度伪造的照片并没有水印或注解标明其非真实的属性。尽管一些细心的网民能够看出这些照片在光泽和质感上有失真的地方，但并不是每一个人都有足够的精力和判断力去辨明。

特朗普和一群黑人女性相拥。该照片后被证实由生成式人工智能深度伪造。网络图片

经过调查，这些照片有的是来自讽刺特朗普的账号，但经过洗稿后反而大受传播，有的则是特朗普自己的狂热支持者生成的。其中一张图片的创作者告诉BBC：“我并没有说他是真实的照片”。这样的回答让人颇感无奈，因为在AGI生成深度虚假的照片之前，大多数人都默认“眼见为实”的判断。

除了特朗普的狂热追随者们自发传播的虚假信息，特朗普竞选团队本身也在加大AI领域的关注和投入。竞选财务记录显示，特朗普团队、共和党全国委员会及其相关的筹款委员会向特朗普前竞选经理帕斯卡尔旗下的Campaign Nucleus等相关公司支付了超过220万美元。而Campaign Nucleus的业务就囊括使用AGI帮助生成定制电子邮件、解析广泛数据以衡量选民情绪、找到可动摇的选民并放大“反觉醒”影响者的社交媒体帖子。其中重点在于利用AI技术来分析政治任务的支持者以建立画像，并通过个性化方案来谋求选民偏好的操纵。

值得一提的是，一些科技领袖也转变政治立场开始支持特朗普，这似乎是一场双向奔赴。其中的标志性人物就是埃隆·马斯克。在特朗普枪击事件发生后，马斯克就在自己的社交平台X上正式宣布支持前总统特朗普的竞选资格，并愿意提供资金支持其竞选活动。

尽管一些硅谷领袖们一改常态转为支持共和党的行为和多元化政策的弊端有直接联系，但更广泛的原因还是出于他们对科技行业未来的考量。总之，资金和传播平台等要素在AGI技术的加持下深度耦合，并发挥了超乎预料的力量。

密织黑箱的秘诀

见识了AGI在选举中前所未有的搅混水能力，我们不禁要问：AGI介入选举的机制到底是什么？

AGI生成的深度虚假内容（Deepfakes），包括文字、音频、图片和视频。这些要素深度裹挟了选举宣传中的信息和认知等要素，事实上已经与政治传播模式深度绑定。AGI通过对选举流程的深度嵌入，挑战选民的认知，造成强化和动摇两种效果，达到操纵选民的目的。

美国选举宣传分析框架孙成昊：生成式人工智能对美国选举宣传的介入：路径、场景与风险，2024-7。[3]

美国的选举宣传机制，主要由输入、处理和输出三阶段组成。候选人和政党为了赢得选举而进行竞选活动，这一活动本质上就是在说服选民，让选民对政治宣传的内容进行处理消化，最终达到让选民做出选择行为的目的。

而经过AGI的深度赋能，在美国大选的宣传领域内，包括选民登记、选民数据分析、选情预测分析、选举策略制定、选举流程跟踪、宣传投放和援助选民相关选举资源在内的流程，都迎来了新的形态。

在预测选情、选民数据分析、选举战略制定和选民援助方面，AGI目前的表现大致还处于良性轨道内。具体表现为帮助竞选团队和决策者更迅速细致地分析选情并即时生成图表，帮助竞选者分析选民画像并制定深度细分的战略，同时通过AGI自动邮件回复等方式，提高竞选者与选民间的互动质量来加强反馈效果，并充当选举百科全书为选民提供必要和及时的选举信息等。

但是在其他方面，AGI的深度应用显然已经暴露出一些问题。在选民登记上，AGI被应用的本意是通过主动生成邮件或拨通电话等形式来提升选民的投票率。但年初“AI拜登电话”事件已经证明，AGI在扰乱选民投票上也能“发光发热”。

在选举流程跟踪和宣传投放上，AGI赋能的积极意义在于识别选举流程中异常的活动，防止网络欺诈和网络攻击，以维护选举秩序以及识别出被细分的群体，将选举信息精确投放到这些选民身上。但在特朗普黑人照片事件和先前的斯洛伐克录音门事件中，我们可以看到AGI起到的作用恰恰相反，维护秩序和精确投放变成了扰乱秩序和深度虚假的投放。

AGI扰乱的竞选生态对选民认知造成的破坏，主要体现在动摇选民认知和强化选民认知两个方面。

动摇效果方面，在特朗普与黑人的虚假合照事件中，为了笼络黑人群体尤其是年轻黑人群体，AGI帮助生成了深度虚假的系列照片。通过AGI的精确定位，这些深度虚假的照片被悄然投放到选民身上，挑战黑人选民群体先前的认知，动摇犹豫不决的青年选民。

强化效果方面，对于宣传信息本身而言，AGI的生成速度能为选举团队带来海量信息轰炸的宣传优势，甚至在文案质量上都能更精确地抓住选民“痛点”，吸引其捐款。此外，诸如政客机器人等AGI的拟人化能帮助政党拉近和选民的距离，实现高效沟通和反馈。

值得注意的是，AGI灵活的强化效果和在短时间内生成海量信息并精确推送的能力，会在政治传播的特定时期被迅速放大，很容易造成深度虚假信息的爆炸式传播。这些情况往往出现在选举伊始以及选举静默期各家宣传主体还未入场，或被强制从宣传场域内清出的特殊时期内。

经生成式人工智能处理的信息破坏选民认知的机制孙成昊：生成式人工智能对美国选举宣传的介入：路径、场景与风险，2024-7。[3]

此外，有的AGI本身就带有潜在的意识形态，例如名声在外的GhatGPT在一项测试中就被指出带有明显的左翼意识形态立场。尼尔·波兹曼曾在对媒介技术进行分析时提到一个观点：“媒介即隐喻”，他认为媒介本身就带有强大的暗示，能够改变人们的思维方式以重新定义现实。早在特朗普的“推特选举”和“推特治国”时期，我们就感受到了媒介塑造选民的力量，如今当AGI为媒介平台强势赋能后，这个隐喻本身也很容易被无限放大。

通往赛博选举

今年3月份，美国布鲁金斯学会相关专家有一场线下讨论会，就选举期间人工智能和虚假信息带来的风险进行了讨论。他们认为当下AGI给选举带来的风险，集中在立法、技术和传播机制深度嵌合三个方面。

研讨会，从左到右依次是Darrell M. West（技术创新中心高级研究员）、Soheil Feizi（马里兰大学计算机科学系副教授）、Shana M Broussard（联邦选举委员会专员）、Matt Perault（北卡罗来纳大学教堂山分校技术政策中心主任）视频截图

就立法层面而言，美国联邦政府显然还没有准备好对AGI干涉选举的现象进行立法，大部分责任还落在各州立法以及各大私营媒体平台上。

2023年10月30日，拜登总统签署了关于“安全、可靠和值得信赖地开发和使用人工智能”的第14110号行政命令，该行政命令是迄今为止美国最全面的人工智能治理方法，涵盖了从人工智能安全的行业新标准到隐私保护、公民权利、工人利益、技术创新、政府对人工智能的使用以及美国的国际领导力等领域。

从某种程度上来说，这份行政令可以视为美国未来人工智能安全领域立法的路线图，帮助避免重蹈之前治理中的分裂轨迹，让监管工作从各州的零散提案回到联邦政府的系统管理下。但这一“全面的人工治理方法”还在起步阶段，而国内AGI在选举上造成的问题已是来势汹汹。

在技术层面，尽管有人提出通过数字水印的方式标识出深度虚假的生成内容，但专家表示这并不可靠。在AGI生成的过程中这些水印可以被轻易抹除，并且这是基础技术层面的限制，短期难以解决。目前见效较快的方法是希望私营部门能够主动提供一些审查服务，尽管在立法完善面前不足以解决问题，但至少能够起到一些作用。

在影响传播机制的层面，与会专家表示虚假信息真正影响的其实是摇摆的5%~10%的选民，而绝大多数选民在一开始就已经决定好他们的阵营了。关于这一点，也有其他专家表示我们其实不必对于深度虚假信息的出现过于悲观：

首先，虚假新闻只占据了普通人信息接受的很小部分。“2020年的一项研究发现，对于普通美国人来说，每天花费约7.5小时的媒体时间，其中约14%与新闻相关，大部分来自电视。最近的另一项研究估计，对于美国普通成年Facebook用户来说，即使在2020年美国大选前的几个月里，他们看到的内容也只有不到7%与新闻相关”。

其次，对于确实存在的深度虚假信息，研究表明主要集中在少部分美国人中。这可能和算法造成的信息茧房有关，但这些深度虚假信息通常无法传达到绝大多数在线公众，尤其是在AGI帮助深度划分用户群体之后，特定信息所对应的用户基数变得更小了。

除了加强联邦立法和推动科技公司们联合进行AGI管控外，推动“免责申明”、要求竞选团队增加竞选活动透明度以及加强公众教育，也成为了正在被讨论的解决方案。

推动“免责申明”的解决方案来自两党参议员克洛尔·马洛夫斯基。然而问题在于，如果在一个不知道真伪的内容下标注了免责申明，那人们就会更加倾向于不信任这一内容，进而减弱所有带有这一标识的信息的可信度和相关宣传的效果，尽管被标识的内容可能是真实可信的。

要求竞选团队增强透明度和主动披露的方法，则试图通过要求竞选团队主动披露人工智能系统的使用时间和方式。只是这样的方式目前还缺乏足够信任和保障，因为这一方案虽然将责任落实到了竞选人自己身上，但如果竞选人本身就不想负责、不愿主动披露甚至故意隐藏自己的行为，那么搜集取证将相当耗费成本，尤其是还存在一定的技术门槛。

此外，如果只是罚款或一些轻微的行政处罚，那竞选者可能已经做好了被罪责的准备，毕竟一旦AGI的错误应用带来的收益大于其处罚成本时，无疑是给了竞选者们一个“合法”付出代价使用大杀器的机会，然而面对在总统竞选中获胜这样的诱惑，立法机关又要在违法成本上放多大的筹码才能让人们有所忌惮呢？

同时我们还要看到，在特朗普的黑人虚假合照事件和拜登AI电话事件中，行为的发起人并不是候选人本身（至少明面上不是），所以这里面还会涉及到责任的划分，毕竟把责任划到成千上万的支持者身上，并不会产生多少威慑力。

对于开展公众教育则是一种会立竿见影的方案，尽管这也不能根本解决问题。要知道并不是每个公众都有消化深度虚假信息的能力，尤其是深度虚假内容真假混合的时候。通过在选举期间定期积极教育选民，告知选民们如何辨别深度虚假的内容，以及如何客观地处理信息，对那些陷入信息茧房的或者受教育程度不高的选民会大有助益。

不论如何，AGI深度嵌合的选举时代已经到来。如何甄别信息真假，如何防范对手，以及如何建立监管机制和评估公共政策的有效性，成为两党在此次选举中要共同面临的挑战。

注释：

[1]AP：A parody ad shared by Elon Musk clones Kamala Harris’ voice, raising concerns about AI in politics.

https://apnews.com/article/parody-ad-ai-harris-musk-x-misleading-3a5df582f911a808d34f68b766aa3b8e

[2]澎湃观察：美国大选临近，AI博弈之下的虚假信息困境

https://www.thepaper.cn/newsDetail_forward_27359556

[3]孙成昊：生成式人工智能对美国选举宣传的介入：路径、场景与风险，2024-7，P4-5。

[4]The Brookings:The dangers posed by AI and disinformation during elections,2024-3

https://www.brookings.edu/events/the-dangers-posed-by-ai-and-disinformation-during-elections/

[5]The Brookings:Regulating general-purpose AI: Areas of convergence and divergence across the EU and the US,2024-5

https://www.brookings.edu/articles/regulating-general-purpose-ai-areas-of-convergence-and-divergence-across-the-eu-and-the-us/

[6]The Brookings:Misunderstood mechanics: How AI, TikTok, and the liar’s dividend might affect the 2024 elections,2024-1

https://www.brookings.edu/articles/misunderstood-mechanics-how-ai-tiktok-and-the-liars-dividend-might-affect-the-2024-elections/

本文系观察者网独家稿件，文章内容纯属作者个人观点，不代表平台观点，未经授权，不得转载，否则将追究法律责任。关注观察者网微信guanchacn，每日阅读趣味文章。