解开深度伪造面孔看起来惊人真实的原因!在怀疑是伪造之前,先相信了——AI面孔产生的“超现实主义”

解开深度伪造面孔看起来惊人真实的原因!在怀疑是伪造之前,先相信了——AI面孔产生的“超现实主义”

为什么AI的面孔比“真实的更真实”——脑成像揭示的意外陷阱

在社交网络上看到的某个人的脸,没有任何违和感。表情自然,似乎很亲切。你觉得“看起来像普通人”,于是信任他们的个人资料和信息。

然而,这种安心感可能正是判断错误的入口。

佛罗里达大学的研究团队报告了一种现象,即AI生成的面孔被评价为比真实人物照片更真实。这种被称为“深度伪造超真实主义”的倾向,不仅仅是无法识别假冒的问题。

我们用来判断“真实性”的特征,反而可能促使我们选择假冒的东西。


比“无法识破”更棘手的判断逆转

提到深度伪造,有些人可能会想到将名人的脸覆盖到其他视频中的影像。这次研究中处理的是AI生成的面孔静态图像。

根据大学的发布,研究团队准备了40张真实人物的照片和40张AI生成的面孔,让参与者评估其真实性,并研究他们的大脑活动。

结果显示,无论是年轻人还是老年人,平均而言都将AI的面孔评为比实际照片更真实。在老年人中,这种倾向更为明显。

需要注意的是,这并不意味着“所有人都会被所有AI图像欺骗”。在特定图像和实验条件下,作为一个群体,评估的偏差被确认。

即便如此,依赖自己感觉的弱点也显现出来。“看起来自然所以应该是真的”这种判断并不像想象中那么可靠。


大脑中与“违和感相关的区域”是如何反应的

研究团队关注的是大脑深处的“前岛皮质”区域。它涉及处理重要信息和可能不可信的线索。

研究发现,与实际人物照片相比,观看AI面孔时,这一区域的活动趋于降低。此外,活动降低与将面孔评为更真实之间也存在关联。

然而,将前岛皮质简单地视为“假冒发现传感器”是不准确的。并不是这个区域单独判断真伪,发现活动差异与引发判断错误的证明也是不同的。

此次结果是理解自然接受AI面孔现象的线索。并不能断言“AI关闭了大脑的警报装置”。


“熟悉的面孔感”转变为真实性

那么,为什么不存在的面孔看起来如此自然呢?

研究负责人娜塔莉·埃布纳教授提出的一个解释是面孔的“典型性”。当许多面孔特征被平均化时,突出的特征减弱,接近人们想象的典型面孔。这种面孔容易处理,可能被认为是可取的。

当然,这并不意味着AI总是简单地叠加多张照片。这是关于人类如何接收生成面孔的特征。

在日常生活中,我们也常常将“熟悉”和“容易理解”的感觉作为判断的捷径。然而,这种处理的容易性有时会被误认为是图像真实性的证据。

根据这种解释,应该警惕的不仅是不自然的图像。相反,那些没有任何不妥之处、让人安心的面孔也需要同样的谨慎。


如果仅将其视为老年人的问题,研究的意义将被忽视

在这次研究中,老年人更倾向于将AI面孔评为真实。然而,关于前岛皮质的活动,年轻人和老年人之间并没有显著差异。

也就是说,“因为年龄导致这个区域的反应变弱,所以老年人相信AI面孔”的解释并未在此次研究中得到直接支持。年龄差异产生的具体原因需要继续研究。

而且,年轻人中也出现了同样方向的偏差,这一点不容忽视。

熟悉智能手机的使用与能够正确判断AI图像并不相同。如果认为“希望父母注意,但自己没问题”,可能会忽视对自身的确认。

如果在家庭中分享,与其说“老年人容易上当”,不如解释为“人类的感官存在这样的弱点”,这样更容易让每个人将其视为自己的问题。


在SNS上对“识破自信”的警惕和对来源确认的呼声

关于AI面孔的真实感,SNS上也在持续讨论。这里不是对本次论文的直接反应,而是从同一主题的海外论坛Reddit的相关帖子中总结的意见。

 

第一个是,对识破图像能力的过度自信是危险的的声音。指出不仅是假冒的精巧程度,还有“自认为能识破”的自信是问题所在。也有坦率承认没有识别自信的帖子。

第二个是,仅靠个人仔细观察是不够的的意见。有人呼吁建立可以确认生成时的水印和图像来历的机制、显示标准等。

第三个是,对冒充行为的滥用表示担忧的声音。有人担心通过逼真的面孔图像,冒充虚构人物接近他人的行为会变得容易。

另一方面,也有人认为这可能成为不再无条件信任网络图像的契机。

这些是一个帖子中的个人意见,并不代表整个社会的意识调查。然而,单靠“更仔细地观察就能识破”这一对策是否足够的问题,与此次研究相呼应。


在日本需要考虑的是,“真实的面孔”和“可信的对象”之间的区别

将这项研究引入日本的日常生活中,就成了如何处理SNS的个人资料照片以及在线认识的对象的面孔的问题。

例如,与你讨论投资的人使用了一张表情平和的照片。每天给你发信息的人展示了一个亲切的笑脸。这样的印象可能是开始对话的契机,但并不能作为身份或谈话真实性的证据。

即使图像不是AI生成而是真实的照片,使用它的人也不一定是照片中的本人。此外,即使是本人的照片,也不一定能信任他们提出的事情。

“图像是否真实”、“对方是谁”、“谈话内容是否正确”,这些都需要分别确认。

意识到这种区别,措施也会从观察面孔转向信息确认。


在“识破”之前,养成确认的习惯

从这项研究中可以推测到的日常启示是,在对看似真实的面孔感到安心的瞬间,保持确认图像外部信息的态度。

具体来说,以下行为可能有帮助。

  • 不要仅凭面孔照片判断身份。 所属单位和经历不仅要通过对方提供的信息,还要通过独立的途径确认。
  • 自称是熟人的联系,要通过以前已知的联系方式确认。 即使新账户的照片酷似本人,也不能仅凭此信任。
  • 在急于要求汇款或提供个人信息的情况下,停止判断。 将对方面孔的印象与要求的合理性分开考虑。
  • 不要将AI判定工具的结果视为身份保证。 图像的判定和对方的信用确认是不同的工作。

研究人员重视了解这种认知偏差作为采取对策的第一步。然而,此次实验并未验证通过注意提醒能减少多少实际的诈骗损失。

“知道就一定能防止”这种想法并不可靠,重要的是在了解的基础上拥有确认的步骤。


真实性已不再是身份的证明

此次研究重新审视的不仅是AI的进步,还有我们平时以何为依据信任对方的问题。

自然的表情、亲切感、熟悉的面孔。这些印象在人际关系中是重要的。然而,它们并不能保证屏幕另一端的人物是真实存在的,或其言论是正确的。

未来需要的不是怀疑所有面孔,而是不仅仅通过面孔来完成确认。

在感到“看起来真实”之后,接下来要确认什么。随着AI面孔变得普遍,这一额外步骤的意义将变得更加重要。


来源

  1. Eurasia Review:关于佛罗里达大学的研究,介绍了实验概要、研究者的解释、年龄差异和脑活动的结果。
    https://www.eurasiareview.com/16112026-deepfake-faces-appear-hyperreal-these-brain-scans-may-explain-why/

  2. 佛罗里达大学:研究介绍
    脸部图像的构成、超真实主义的解释、前岛皮质的反应、研究者的注意提醒说明。
    https://news.ufl.edu/2026/11/deepfake-faces/University of Florida

  3. Social Cognitive and Affective Neuroscience:研究论文
    “When Fakes Feel Real: Behavioral and Neural Mechanisms of Deepfake Hyperrealism in Younger and Older Adults”。报告了年轻人和老年人的评价倾向与前岛皮质活动的关联。注意,由于论文摘要和新闻稿中参与者人数的描述不同,本文避免断定人数。
    https://doi.org/10.1093/scan/nsag086academic.oup.com

  4. Reddit:关于AI生成的面孔的相关讨论
    在SNS栏目中介绍的,对识破自信的警惕、对冒充的担忧、要求确认来历和显示标准的意见的参考来源。并不是对本次论文的直接反应。
    https://www.reddit.com/r/artificial/comments/1rb0619/fake_faces_generated_by_ai_are_now_too_good_to_be/