在讨论人工智能 （AI） 技术时，语音克隆已成为一种熟悉的克制，它使可访问性和创造力方面的有益进步成为可能，同时也使日益复杂的骗局和深度伪造成为可能。为了应对语音克隆技术的潜在负面影响，美国联邦贸易委员会 （FTC） 向研究人员和技术专家提出挑战，要求他们在预防、监控和评估恶意语音克隆方面提出突破性想法。
圣路易斯华盛顿大学麦凯维工程学院计算机科学与工程助理教授张宁是4月8日宣布的FTC语音克隆挑战赛的三名获奖者之一。Zhang解释了他的获奖项目DeFake，该项目为录音部署了一种水印。DeFake 将精心制作的人耳无法察觉的失真嵌入到录音中，通过消除可用的语音样本，使犯罪克隆变得更加困难。
“DeFake使用了一种对抗性AI技术，该技术最初是网络犯罪分子工具箱的一部分，但现在我们正在使用它来防御他们，”张说。“语音克隆依赖于使用预先存在的语音样本来克隆语音，这些样本通常是从社交媒体和其他平台收集的。通过稍微干扰录制的音频信号，足以让它对人类听众来说听起来仍然正确，但它与人工智能完全不同，DeFake通过使犯罪合成的语音听起来像其他声音而不是预期的受害者来阻止克隆。
该项目建立在Zhang早期工作的基础上，旨在阻止未经授权的语音合成发生。Zhang和语音克隆挑战赛的另外两名获胜者，他们的提案侧重于检测和身份验证，说明了正在开发的各种方法来阻止有害做法并保护消费者免受不良行为者的侵害。获奖者由评委小组选出，将瓜分 35,000 美元的奖金。
最初发表在麦凯维工程学院网站上
新闻旨在传播有益信息，英文版原文来自 https://source.wustl.edu/2024/04/washu-expert-defake-tool-protects-voice-recordings-from-cybercriminals/