深度伪造的诱惑对民主政府来说是不可抗拒的吗？当考虑深度伪造时，政府应该问什么问题——政府中的谁应该问这些问题？
西北大学的两位教授共同撰写了一份新报告，研究了民主政府可能考虑使用深度伪造来推进其外交政策目标的几种假设情况，以及这种使用可能对民主造成的潜在危害。
该报告于今天（3月12日）由战略与国际研究中心（CSIS）发布。
合著者是西北大学麦考密克工程学院 Walter P. Murphy 计算机科学教授、巴菲特全球事务研究所研究员 VS Subrahmanian;以及西北普利兹克法学院高级讲师兼法律和技术计划主任Daniel W. Linna Jr.。他们与CSIS跨国威胁项目高级研究员丹尼尔·拜曼（Daniel Byman）一起领导了这份报告。
> 听： Subrahmanian教授和Linna教授在Lawfare播客上讨论该报告
深度伪造是一种经过数字修改的视频、照片或音频记录，通常被恶意用于传播虚假信息并制造混乱。一个著名的例子包括 2022 年 3 月浮出水面的一段假视频，其中乌克兰总统沃洛德米尔·泽伦斯基 （Volodymyr Zelensky） 的数字修改版本告诉他的士兵放下武器。
“随着人工智能的进步，深度伪造已经从原始变成了高度逼真的，它们只会越来越难以区分，”作者在报告中写道。“人工智能的激增为国家行为者提供了一个无与伦比的机会，可以出于国家安全目的使用深度伪造。“
研究人员认为，深度伪造的诱惑最终将对民主政府造成不可抗拒的影响。 “不久之后，包括美国在内的主要民主国家就会开始或至少考虑使用深度伪造来实现其目的，如果他们还没有这样做的话，“ 他们说。
根据作者的说法，官员在考虑使用深度伪造时应该考虑几个因素：
- deepfake的可能功效，
- 它的受众，
- 潜在的危害，
- 法律影响，
- 目标的性质，
- Deepfake的目标，以及
- Deepfake的可追溯性可以追溯到最初的民主党政府。
总的来说，作者认为不应该使用深度伪造，因为它们可能会降低民主政府的可信度。然而，在极少数情况下，深度伪造的使用值得认真考虑。作者说，在这些情况下，政府应该制定一个批准或拒绝深度伪造的程序，以确保将各种观点摆在桌面上。
新闻旨在传播有益信息，英文版原文来自 https://news.northwestern.edu/stories/2024/03/questions-to-ask-about-government-use-of-deepfakes/