计算机工具通过眼睛中的微小反射发现深度伪造

在人工智能进步的推动下，被称为深度伪造的篡改视频内容在错误信息的传播方面呈现出严重且日益严重的危险。随着这些经过修改的剪辑变得越来越有说服力，迫切需要能够帮助将它们与真实剪辑区分开来的工具。布法罗大学的计算机科学家刚刚提供了一个令人信服的例子来说明这可能是什么样子，他们开发了一种技术，他们说可以通过分析眼睛中的微小反射，以 94% 的效率在类似肖像的照片中发现深度伪造。

Deepfakes 是一种人工媒体，它通过在一个人的真实视频片段上训练深度学习算法并将其与计算机图像混合来创建他们的虚构视频片段。这些变得越来越现实，但它们并不像权力的游戏角色乔恩·雪诺为节目结局道歉的篡改视频那么温和。

专家们越来越担心 Deepfake 技术可能对民主产生影响，因为政客们似乎在说他们实际上从未说过的话。或者在议长南希佩洛西的案例中，视频经过修改，使她似乎被她的话绊倒，随后前总统唐纳德特朗普在推特上向他的数百万粉丝发送了推文。

布法罗大学团队的这项研究由计算机科学家 Siwei Lyu 牵头，他试图通过利用眼睛反射的微小偏差来开发一种新的 Deepfake 检测工具。当我们在现实生活中看某物时，它的反射会以相同的形状和颜色出现在我们的双眼中。

“角膜几乎就像一个完美的半球，非常反光，”Lyu 说。“因此，任何从这些光源发出的光进入眼睛的东西都会在角膜上产生图像。两只眼睛应该有非常相似的反射图案，因为它们看到的是相同的东西。当我们看一张脸时，通常不会注意到这一点。”

但这不是 deepfakes 的情况，可能是由于用于创建它的许多不同的图像。Lyu 和他的团队构建了一个计算机工具，通过首先绘制面部图，检查眼睛，然后是眼球，然后是每个眼球反射的光，来瞄准这个缺陷。然后，该工具会非常精细地比较反射光的形状、光线和强度的差异。

使用他们的新工具对真实肖像和深度伪造的组合进行试验，该团队发现它能够以 94% 的有效性区分后者。尽管这个数字很有希望，但该团队指出，这种方法仍然存在一些局限性。其中一个事实是，这些偏差可以通过编辑软件进行修复，并且图像必须呈现出清晰的眼睛视图才能使该技术发挥作用。