二、深度伪造对政治选举的双刃剑效应

伴随人类社会进入数字化网络化智能化时代，技术既可以成为强大的工具，也可以成为有力的武器。兰德公司《人工智能、深度造假与虚假信息》报告还指出，深度伪造不仅会影响社会，还会影响国家安全，可以操纵选举，可能会加剧社会分裂，降低对机构和政府的信任，破坏新闻业和信息源的可信度。[1]如今，全球民众都在注视着人工智能、深度伪造在干预政治选举这条危险道路上渐行渐远，努力应对其可能带来的复杂挑战及其对国家政治的深远影响。

1.人工智能成为提升竞选优势的强大工具。在激烈政治选举当中，人工智能已成为政党和政客寻求在沟通、战略和决策以及吸引选民支持方面获得优势的强大工具。例如，人工智能在印尼政治中扮演着重要角色，许多政客为吸引粉丝开始利用人工智能。许多候选人利用人工智能聊天机器人来与选民互动。曾是苏哈托女婿的普拉博沃竞选团队使用人工智能制作其卡通形象并取名“可爱”，受到众多青年人的喜爱。在印尼大选期间，曾以铁腕统治印尼30多年的前总统苏哈托的一段讲话视频出现在网上，吸引了许多选民关注。不过，这段视频是人工智能生成的。发布该视频的印尼专业集团党副主席阿克萨称，此举是“为了让选民记住苏哈托为印尼做出的贡献”。该党在此次选举中支持普拉博沃。据选后调查，普拉博沃在青年选民中以60%的得票率大幅领先。最终，普拉博沃赢得这次总统选举。纽约大学认知科学名誉教授、人工智能专家加里·马库斯（Gary Marcus）指出，相信这项技术将在未来的选举中发挥重要作用，很难否认人工智能生成的内容不会成为下一次选举的主要力量。

2.人工智能成为操纵政治选举的强大武器。深度伪造技术在政治选举当中成为一种武器。首先，恶意的行为者会伪造证据，助长虚假指控和虚假叙述。例如，通过对候选人发表的原有言语进行微妙改变，使其品格、健康状况和心理健康受到质疑，而多数受众完全不知到真假。深度伪造技术可以用于创建全新的虚拟内容，包括有争议的发言或仇恨言论，目的是操纵政治分歧议题甚至是煽动暴力行动。在一些国家和地区，深度伪造技术已被用来破坏政治选举。2023年芝加哥市长选举前夕，“芝加哥湖畔新闻”（Chicago Lakefront News）发布一张市长候选人、温和派民主党人保罗·瓦拉斯（Paul Vallas）的照片以及一段录音，瓦拉斯在淡化警察枪击事件，认为“在我那个时代，警察在他们的职业生涯中会杀死多达18人”“没有人会睁一只眼闭一只眼”“我们需要停止为警察提供资金并开始退款”。这段录音被用来抨击瓦拉斯对枪击事件视而不见。虽然瓦拉斯竞选团队谴责该录音由人工智能生成，但录音已经在网上广泛流传。两个月后，瓦拉斯最终竞选失败可能与该录音的负面影响有关。布鲁金斯学会（Brookings Institution）专门研究人工智能影响的研究员克里斯·梅塞罗尔（Chris Meserole）指出，可以想象一种情况，即在选举的关键时刻，录音可能会浮出水面，而候选人很难证明这是假的。兰德公司（Rand Corporation）也提出类似担忧，称这种策略是“谎言之火”，可能会在未来选举前向选民开火。[2]

[1] https://www.rand.org/pubs/perspectives/PEA1043-1.html.

[2] https://www.foxnews.com/politics/voters-should-be-scared-s-less-about-2024-election-rigging-because-of-ai.