马斯克分享的一段伪造视频模仿了哈里斯的声音，引发了人们对人工智能在政治中的担忧

纽约(美联社)——在距离选举日还有三个月的时候，一段被篡改的视频模仿了她没有说过的话的声音，这引起了人们对这种误导力量的担忧。

周五晚上，这段视频在他的社交媒体平台X上分享，但没有明确说明最初是作为恶搞发布的，因此引起了关注。

该视频使用了许多与哈里斯上周发布的竞选广告相同的视觉效果。但视频将画外音换成了另一个令人信服地模仿哈里斯的声音。

视频中的声音说:“我，卡玛拉·哈里斯，成为你们的民主党总统候选人，因为乔·拜登终于在辩论中暴露了他的老态。”它声称哈里斯是一名“多元化雇员”，因为她是一名女性，也是一名有色人种，它还说她不知道管理国家的第一件事是什么。该视频保留了··哈里斯总统的···品牌。它还添加了一些真实的哈里斯过去的片段。

哈里斯竞选团队发言人米娅·埃伦伯格(Mia Ehrenberg)在给美联社的一封电子邮件中说:“我们相信美国人民想要副总统哈里斯提供的真正的自由、机会和安全;而不是埃隆·马斯克和唐纳德·特朗普虚假的、被操纵的谎言。

随着美国总统大选的临近，这段被广泛分享的视频是如何利用逼真的视频来取笑和误导政治的一个例子。它暴露出，尽管高质量的人工智能工具已经变得很普及，但迄今为止，联邦政府仍然缺乏重大行动来规范它们的使用，导致在政治上指导人工智能的规则主要由各州和社交媒体平台来制定。

这段视频还提出了一个问题，即如何最好地处理模糊了人工智能合理使用界限的内容，特别是如果它属于讽刺的范畴。

发布该视频的原始用户是YouTube用户里根先生(Mr Reagan)，他在YouTube和X上都披露了这段被篡改的视频是恶搞。但据该平台称，马斯克的帖子已经被浏览了超过1.23亿次，但它只包含了标题“这太棒了”和一个笑的表情符号。

熟悉该平台的X用户可能知道点击musk的帖子到原始用户的帖子，在那里披露是可见的。麝香的标题并没有指示他们这样做。

关于2024年大选，你应该知道些什么

民主:自2020年以来，美国民主已经克服了巨大的压力测试。作用:美联社是选举之夜最值得信赖的信息来源，其准确性的历史可以追溯到1848年。待通知。让你的脉搏与突发新闻电子邮件提醒。

虽然x的“社区笔记”功能(用于为帖子添加上下文)的一些参与者建议给musk的帖子贴上标签，但截至周日下午，并没有给帖子添加这样的标签。一些网友质疑他的帖子是否违反了规定，规定称用户“不得分享合成的、被操纵的或脱离背景的媒体，这些媒体可能会欺骗或混淆人们，并导致伤害。

该政策对表情包和讽刺作品有一个例外，只要它们不会对媒体的真实性造成严重混淆

本月早些时候，马斯克支持共和党候选人、前总统唐纳德·特朗普。周日，里根和马斯克都没有立即回复记者的置评请求。

两名专门研究人工智能生成媒体的专家审查了假广告的音频，并证实其中大部分是使用人工智能技术生成的。

其中之一，加州大学伯克利分校的数字取证专家哈尼·法里德(Hany Farid)表示，该视频显示了生成式人工智能和深度造假的力量。

他在一封电子邮件中说:“人工智能生成的声音非常好。”尽管大多数人都不相信这是哈里斯·副总裁的声音，但当她说出这些话时，这个视频会更有力量。

他说，向公众提供语音克隆工具和其他人工智能工具的生成型人工智能公司应该做得更好，以确保他们的服务不会被用于伤害人民或民主的方式。

倡导组织“公众公民”(Public Citizen)的联合主席罗布·韦斯曼(Rob Weissman)不同意法里德的观点，他认为很多人会被这段视频愚弄。

魏斯曼在接受采访时说:“我不认为这显然是在开玩笑。”我敢肯定，大多数看到它的人都不会认为它是一个笑话。质量不是很好，但已经足够好了。正是因为它迎合了围绕着她的既存主题，大多数人会相信它是真实的

韦斯曼的组织一直倡导国会、联邦机构和各州对生成式人工智能进行监管，他说，这段视频是我们一直在警告的那种事情

在美国和其他地方，其他生成式人工智能深度造假会试图通过错误信息、幽默或两者兼而有之来影响选民。2023年在斯洛伐克，他假扮一名候选人，在投票前几天讨论操纵选举和提高啤酒价格的计划。2022年，在路易斯安那州，一个政治行动委员会将一名路易斯安那州市长候选人的脸叠加到一名演员身上，把他塑造成一名成绩不佳的高中生。

国会尚未通过有关人工智能在政治中的立法，而且只采取了有限的措施，将美国现有的大多数监管留给了各州。根据全国州议会会议的数据，超过三分之一的州对在竞选和选举中使用人工智能进行了监管。

除了X之外，其他社交媒体公司也制定了有关在其平台上共享的合成和操纵媒体的政策。例如，视频平台YouTube上的用户必须披露他们是否使用了生成式人工智能来制作视频

___

美联社得到几个私人基金会的支持，以加强对选举和民主的解释性报道。查看更多关于亚洲民主倡议的信息。美联社对所有内容全权负责。