分类
弗吉尼亚大学新闻

问答:你怎么知道你什么时候在看Deepfake?

An image of Biden having a new face photoshopped in

在一段视频中,如果乔·拜登总统今年秋天连任,观众可以瞥见想象中的世界末日未来。在另一篇报道中,前总统唐纳德·特朗普(Donald Trump)指责拜登(Biden)对喝了Panera的“充电柠檬水”的两名人死亡负责。

它们可能看起来很真实,但这两个视频都是创作者使用机器学习或人工智能来操纵媒体和信息的作品。

随着总统竞选季节的到来,使用人工智能创建的人工智能媒体Deepfakes已经出现在新闻中。伪造拜登声音的机器人电话要求新罕布什尔州的民主党选民跳过最近的初选,拜登的支持者称此举旨在压制投票。

但这些纵的信息不仅出现在政治领域;人工智能生成的图像和视频也在其他地区流传。10 月,一位广告商制作了一段视频,其中汤姆·汉克斯似乎在宣传牙科计划,促使这位演员在 Instagram 上发帖澄清他与牙科计划无关。

本月早些时候,一段据称显示泰勒·斯威夫特(Taylor Swift)兜售Le Creuset炊具的视频在Facebook和其他地方流传。尽管斯威夫特是Le Creuset的收藏家,但她并没有制作广告。就此而言,Le Creuset也没有。

深度伪造的视频越多,就越难区分假视频和真视频。但幸运的是,弗吉尼亚大学的一组图书馆工作人员创建了一个 生成式人工智能指南。《今日弗大》采访了多媒体教学图书馆员乔什·索鲁德(Josh Thorud),学习如何发现深度伪造和真实内容之间的差异。

Q.深度伪造是什么时候开始成为一个问题的?

一个。深度伪造的底层技术,如机器学习,已经存在了一段时间,但这个词是在 2017 年左右在 Reddit 上创造的。此后不久,一些备受瞩目的深度伪造开始浮出水面,以及一些主要问题,如错误信息、政治操纵和在创建未经同意的露骨内容时不道德的使用。然后是所谓的“骗子红利”,不良行为者试图用假货削弱我们对媒体的信任,所以我们觉得我们不再知道什么是真的,并利用这种混乱来为自己谋利。

Q.通常由谁制作?

答:任何拥有电脑和空闲时间的人都可以制作 Deepfakes,并且有许多免费工具。例如,业余爱好者制作具有幽默、讽刺或艺术意图的在线深度伪造品,或者电影制片人和营销公司制作它们以复活名人或销售产品(通常,但并非总是合法的)。然而,不怀好意的创作者甚至外国政府也在制作它们。

最好和最有说服力的仍然需要大量的技术技能,甚至需要好莱坞的后期制作团队。不过,这种情况正在迅速改变,免费、易于制作的深度伪造正在变得越来越好。此外,生成式 AI 文本转视频工具等新技术在一周内变得越来越好。并将其与生成式 AI 语音模拟相结合,这可能令人难以置信地令人信服和危险,[而且] 我们很难摆脱怀有恶意的创作者,制作出可能具有个人、法律或全球影响的视频。当乌克兰总统泽连斯基著名的深度伪造流传,告诉所有乌克兰人投降时,如果它被认为是真的,你可以看到其中的含义。

Q.谁通常会上当?

答:任何人都可能爱上制作精良的深度伪造,尤其是乍一看。但是在深度伪造中需要寻找一些东西。视频专家可以调查被篡改的证据,他们是确定视频是否为深度伪造的最佳来源。

Q.人们如何区分真实视频和深度伪造视频?

一个。如果制作精良,一目了然地挑选出深度伪造品变得越来越困难。有时,对于最好的,您需要咨询专家,他们可以更深入地寻找操纵迹象。在这些情况下,您需要利用您的信息和媒体素养技能来调查来源,并通过事实核查网站、反向图像搜索和专家来寻找有关“已知”深度伪造的信息。

Q.深度伪造的迹象是什么?

Josh Thorud

乔什·索鲁德(Josh Thorud)是弗大(UVA)的一名教学图书馆员,他帮助创建了生成式人工智能的新人指南。(供图)

一个。要发现深度伪造,需要注意以下几点:寻找面部表情中的怪异之处,或者脸上的光线是否与周围环境不匹配。目前,大多数深度伪造都是通过将数字建模的脸放在另一个人身上——无论是演员还是其他镜头——来制作的。因此,寻找面部与身体、头发或颈部之间的模糊、分辨率、颜色或纹理差异。您甚至可以在脸部覆盖的地方看到一条清晰的线条或模糊。密切观察嘴唇和面部表情,是否有任何不自然的动作或任何感觉“不对劲”的东西,尤其是当他们转过头或任何物体出现在脸前时。在这些情况下,跟踪或屏蔽可能并不完美,而且很难正确。Deepfakes 不会克隆人的声音,因此他们通常依靠语音模仿来听起来像人——这可能不如 Deepfake 本身成功。不过,这是一个增长领域,市场上有优秀的人工智能语音模拟软件。

不过,归根结底,你最好的工具与你对假新闻和错误信息的最佳防御是一样的——关于假新闻的来源、发布者和原因的采购策略。视频从何而来?如果它来自随机的社交媒体帐户或未知的网站,请更加怀疑。可靠的新闻来源或官方渠道不太可能分享深度伪造。另一件事是交叉检查信息。在受信任的新闻网站或通过事实核查网站查找相同的故事或视频。

Q.深度伪造有好的用途吗?它们可以用作学习工具吗?

一个。虽然一些深度伪造的背后可能是错误信息或恶意意图,但深度伪造有很多积极的用途,包括娱乐、艺术、电影制作、幽默、讽刺等等。在教育领域,想象一下历史人物在课堂上栩栩如生,或者通过逼真的模拟辅助语言学习。关键是合乎道德的使用和完全透明。

然而,对于大学环境来说,更重要的是学习创造一个大学所涉及的教育机会。通过将深度伪造带入课程,学生可以批判性地检查这项技术的后果,并通过获得实践经验来发展他们的媒体素养技能。如今,制作虚假内容很容易,真正的挑战在于遵守道德标准、表现出同理心和保持诚信。

这凸显了我们的教育系统必须将道德推理和批判性思维作为教育的基本方面。对于学生来说,批判性地反思他们在媒体、社会动态和道德考虑中使用的技术的影响至关重要。这种方法不仅可以为学生提供媒体素养技能,还可以让他们准备好应对甚至指导未来。

Q.如果您发现深度伪造,该怎么办?

一个。首先,如果您在社交媒体上看到潜在的深度伪造,请不要分享它。如果深度伪造不传播,它们通常不会伤害任何人。其次,如果您看到其他人分享了深度伪造,请鼓起勇气大声疾呼并指出值得信赖的资源,例如事实核查网站,尤其是对于已知和已识别的假货。在外交上可能很难做到,但作为一个社会,我们必须尝试反击。告诉别人你是怎么知道它是假的,这样他们也能学会发现它们。此外,如果它在允许此功能的社交媒体平台上,您可以举报它。

新闻旨在传播有益信息,英文版原文来自https://news.virginia.edu/content/qa-how-do-you-know-when-youre-looking-deepfake