防御人工智能驱动的Deepfake

由于人工智能技术不断发展，深度伪造（Deepfake）也越来越难以发现。这对依赖于任何形式个人图像的可信身份验证都构成了严重的问题。然而，一些应对Deepfake威胁的方法显示出希望。

Deepfake是“深度学习”和“伪造”的组合，可以进行任何以欺骗方式编辑的照片、视频或音频。第一个Deepfake可以追溯到1997年，当时一个名为Video Rewrite的项目证明，可以重新激活某人面部的视频，并发表来自别人编造的语言。

早期的Deepfake需要用户具备相当高的技术水平，但到2025年，情况将不再如此。得益于生成式人工智能技术，如创建图像的扩散模型和使图像看起来更可信的生成式对抗网络（GAN），现在任何人都可以使用开源工具进行Deepfake。

高精度Deepfake工具的易用性对隐私和安全造成了严重影响。当Deepfake技术被用来制造假新闻、恶作剧、儿童性虐待材料和复仇色情等东西时，社会会受到影响。美国国会和几个州立法机构提出了几项法案，将以这种方式使用技术定为刑事犯罪。

对金融世界的影响也相当显著，这在很大程度上是因为我们对关键服务的身份验证有多么依赖，比如开立银行账户或取款。虽然使用面部识别等生物识别身份验证机制可以比密码或多因素身份验证（MFA）方法提供更大的保证，但现实情况是，任何部分依赖图像或视频来证明个人身份的身份验证机制都很容易被Deepfake欺骗。

欺诈者很容易拿起Deepfake工具。Signicat最近的一项研究发现，2024年，6.5%的欺诈企图使用了Deepfake，高于2021年的不到1%，同比增长了2100%以上。报告发现，在同一时期，欺诈行为总体上增长了80%，而身份欺诈行为增长了74%。

Consult Hyperion首席执行官Steve Pannifer和全球大使David Birch在题为“对抗人工智能驱动的身份欺诈”的Signicat报告中写道：“人工智能将以前所未有的规模实现更复杂的欺诈。欺诈可能会更成功，即使成功率保持稳定，纯粹的尝试量（上升）也意味着欺诈水平将爆发。”

Deepfake带来的威胁不是理论上的，欺诈者目前正在“追捕”大型金融机构。金融服务信息共享和分析中心的185页报告中列举了许多骗局。

例如，2023年5月五角大楼发生爆炸的假视频导致道琼斯指数在四分钟内下跌了85点。还有一个有趣案例，即有人伪造了身份证件，并在2024年7月欺骗了黑客Kevin Mitnick（于2023年去世）共同创立的安全意识公司KnowBe4，该公司雇用了他（或她）。KnowBe4在其博客文章中写道：“如果它能发生在我们身上，它几乎可以发生在任何人身上。”“别让它发生在你身上。”

然而，最著名的Deepfake事件可以说发生在2024年2月，当时香港一家大型公司的一名财务人员与欺诈者进行虚假视频通话讨论资金转移时被骗。Deepfake的视频看上去非常可信，员工给他们电汇了2500万美元。

iProov的首席科学官Andrew Newell说，每天都有数百次深度伪造攻击。Newell说：“威胁行为者采用各种工具的速度确实非常快。”。

iProov在过去两年中看到的最大转变是Deepfake攻击的复杂性。以前，利用Deepfake“需要相当高的专业水平才能推出，这意味着仅有少数人可以做到，但它们相当罕见”“有一类全新的工具使这项工作变得非常容易。你可以在一个小时内启动并运行。”

iProov开发了生物识别认证软件，旨在应对远程在线环境中Deepfake日益增长的有效性。对于风险最高的用户和环境，iProov在登录时使用专有的闪光标记技术。通过将用户设备上的不同颜色的灯闪烁到他或她的脸上，iProov可以确定个人的“活跃度”，从而检测面部是真实的、深度伪造的还是面部交换的。

Newell说，这一切都是为了在潜在的深度伪造欺诈者面前设置障碍。

他说：“你要做的是确保你有一个尽可能复杂的信号，同时让终端用户的任务尽可能简单。”“光线从脸上反射的方式非常复杂。而且因为颜色的顺序实际上每次都会改变，这意味着如果你试图伪造它，你必须几乎实时地伪造它。”

身份验证公司AuthID在身份验证过程中使用各种技术来检测个人的活跃度，以抵御Deepfake演示攻击。

该公司在其白皮书《Deepfake Counter Measures 2025》中写道：“我们从被动活体检测开始，实时确定身份证和摄像头前的人是否真实存在。我们检测打印输出、屏幕回放和视频。”“最重要的是，我们的市场领先技术可以检测Deepfake中存在的可见和不可见伪影。”

击败“注射”攻击（绕过摄像头，将假图像直接插入计算机）更难。AuthID使用多种技术，包括确定设备的完整性、分析图像以寻找制造迹象，以及寻找异常活动，例如验证到达服务器的图像。

该公司在白皮书中写道：“如果（图片）显示时没有正确的凭证，可以说，它是无效的。”“这意味着前端和后端之间的某种协调。服务器端需要知道前端正在发送什么，并带有一种签名。这样，最终的有效载荷就会带有一个批准标记，表明其合法来源。”

未来，能够实现深度伪造攻击的人工智能技术有望得到改进。这给公司带来了压力，要求他们现在采取措施加强身份验证过程，否则就有可能让坏人进入他们的运营。