2024年是全球选举大年。据不完全统计，2024年全球将有76个国家和地区举行大选，将有100多场重要选举活动，覆盖41.7亿人口，占到全球总人口的41%，占到全球GDP的42%。北美、欧洲、俄罗斯、南亚等地区多个国家都将经历重要政治选举。目前，美国总统大选拉开序幕，欧盟迎来欧洲议会选举。同时，随着人工智能特别是大模型快速发展，利用深度伪造技术制造虚假信息干扰政治选举的情况不时出现，引发人们对人工智能、深度伪造滥用的担忧。美国、欧盟等在积极采取措施，以防人工智能、深度伪造影响选举进程。全球多家科技企业在慕尼黑安全会议上签署协议，承诺在2024年多国举行的重要选举中监管和打击滥用人工智能的行为。

一、人工智能加持下的深度伪造技术发展

1.“不敢相信自己的眼睛”。深度伪造技术起初只是用于自制搞笑的“换头”视频，但人工智能技术进步使其用途扩充性能提升，至于以深度伪造视频正在接近真实视频。2022年7月，兰德公司发布《人工智能、深度造假与虚假信息》报告，指出人工智能等驱动技术为深度造假视频、深度造假语音、深度造假图像和深度伪造生成文本提供了基础。[1]人工智能公司的深度伪造工具能够制作具体虚拟人物，基本达到可以“以假乱真”地步。科大讯飞在2017年搞了一次宣传噱头，其在一次会议上制作了美国时任总统特朗普用普通话讲话的深度伪造视频。今天，“不敢相信自己的眼睛”有了新的含义，无论是人类还是机器，甄别能够“以假乱真”的深度伪造信息变得日益困难。

2.“就像写邮件一样简单”。DeepFaceLab、Faceswap等开源软件，可以方便用户随时随地访问云计算，无需进行任何事先开发就能够部署复杂的机器学习过程和图形渲染，整个过程“就像写电子邮件一样简单”。Synthesia是一家位于伦敦牛津马戏团上方服装店的人工智能公司，其研发了可创建深度伪造虚拟形象的软件。用户只需输入一个脚本，然后由Synthesia工具制作的数字演员来朗读。Synthesia制作了“Wolf News”的新闻机构的虚拟主播。现在，由虚拟主播录制的视频被机器账号用于在Facebook和X上发布政治消息。这款虚拟主播制作软件的使用成本最低是每月30美元，它可以在几分钟内制作出虚拟主播视频。

3.“误导、误传和操纵信息”。深度伪造虚假内容，并非一定是恶意的，可以看作是一种创造性的沟通新工具，可以更深刻地理解人类文化和社交互动。例如，美国圣母大学（University of Notre Dame）的学生们找到各种Meme（通过网民模仿而复制和传播的文化片段），包括铺天盖地的换脸视频（尼古拉斯·凯奇出现在每部电影）；乔·拜登、特朗普和奥巴马一起玩《使命召唤》。这些深度伪造内容并非用于破坏，而是为了建立圈层的某种联系和共鸣。如今，深度伪造技术使用越来越容易和广泛，快速向政治和经济、社会领域渗透。但是，深度伪造技术可以很容易将伪造的叙述和信息，与虚假的权威机构（账号）相结合，具有误导、误传和操纵信息的巨大风险。美国专家西特伦指出，深度伪造可能影响美国大选，制造一些候选人没做过的“错事”，这些影响是不可估量的。2018年4月，一段主角为美国前总统奥巴马的视频，在推特上获得200多万次播放和5万多个点赞。奥巴马在视频中抨击时任总统特朗普。但实际上并非出自奥巴马。2018年5月，特朗普宣布中止全球气候变化协议，随后被比利时某个政党篡改，制作了“特朗普宣告比利时政府也应退出”的深伪视频，引起比利时民众公愤。

[1] https://www.rand.org/pubs/perspectives/PEA1043-1.html.