法庭的“真相” : “那个证据，是AI生成的吗？”动摇法庭的伪造图像与识别技术的局限

「那些证据，是AI吗？」动摇法庭的假图像与识别技术的局限

智能手机中的录音、防盗摄像头的影像、社交媒体上发布的照片。当发生纠纷时，这些记录可以成为解开分歧的线索。

然而，如果有人指出这些记录是“由生成AI制作的”，我们该怎么办呢？

因为外观自然就是真实的吗？如果检测工具显示怀疑就是假的了吗？更何况，几年前发布的照片的原始文件还在我们手中吗？

在加拿大进行的研究凸显了这个问题的复杂性。虽然已经开发出识别AI制作证据的技术，但实验室的成果并不能直接应用于现实的司法程序。

即使集合多个检测AI，也无法得出结论

根据Global News于2026年10月30日发布的加拿大新闻社的文章，联合领导这项研究的是滑铁卢大学的计算机科学研究员莫拉·格罗斯曼，她也在约克大学的奥斯古德·霍尔法学院任教。

团队的目标是开发一个免费且易于操作的开源工具，供法院和司法相关人员使用，以帮助调查图像等是否由AI制作或加工。

其机制的特点在于不依赖单一算法进行判断，而是结合多个先进的检测算法。每个算法进行判定，然后像委员会一样汇总结果。

然而，随着为期两年的研究计划接近中途，问题开始显现。

格罗斯曼在实际情况下测试的两个案例中，算法之间的判断并未达到足以得出有用结论的一致性。

需要注意的是，这份报告并未证明“所有AI检测技术都无用”。原始文章中未提供这两个案例的详细条件或基于大规模评估的正确率，也未说明这是在法庭上正式采用的验证。

即便如此，面对现实资料，即使结合最新技术也可能出现判断分歧。这一事实要求我们修正“AI的假货可以通过另一个AI解决”的期望。

发布在社交媒体上的那一刻，验证的线索就开始减少

为什么实验室和现实之间会产生差距？

格罗斯曼指出的一个原因是，图像在流通过程中会发生变化。

拍摄后不久的文件和发布在社交媒体上的图像不一定处于相同状态。发布时可能会被压缩，拍摄相关的附加信息（元数据）可能被移除。

此外，该图像可能被保存、在其他地方发布、作为截图共享。即使人们看到的画面相似，但可调查的信息与原始文件已不同。

而且，在法庭上成为问题的时间点不一定是发布后不久。几年后争议发生时，原始文件可能已经消失。

重要的是，压缩或缺少元数据本身并不是伪造的证据。即使只是正常使用社交媒体，也可能出现这种情况。

即使是原始图像，验证材料也会减少。因此，“调查后未能发现”与“是假的”必须明确区分。

法庭上需要的不仅仅是“判定结果”

在日常的社交媒体浏览中，有时可以通过“因为可疑所以不传播”来做出判断。

然而，在法庭上，判断的影响要大得多。是否相信某个记录可能会影响到人的责任和生活。

格罗斯曼从开发之初就不认为该工具是万能的解决方案，并强调需要人类的参与和判断。还需要能够解释为何做出那样判断的人。

如果使用检测结果，就必须处理调查了什么、在什么条件下判断变得困难、不确定性还剩多少。

仅仅因为“AI说是假的”这一理由，并不能充分验证可能由另一个AI制作的证据。

这项研究所质疑的不仅仅是检测器的性能。还包括人们能否理解检测结果，并能在司法中以可检讨的形式定位的问题。

追求免费工具的理由在于验证的成本

滑铁卢大学的研究介绍中解释道，让专家调查AI相关证据需要费用，并可能导致审判延迟。对于大型案件以外的情况，这种应对可能很困难。

免费且易于使用的工具还旨在帮助那些只能独自应对诉讼或无法获得足够专业支持的人。

由此浮现的危险是，制作假货的负担和验证假货的负担可能会失去平衡。

如果每次展示可疑图像都需要昂贵的鉴定怎么办？反过来，如果提交真实记录的人需要花费大量时间和费用来解释其真实性怎么办？

这是从研究背景中可以考虑的公平性问题。如何让证据验证手段更广泛地被利用。检测的精度以及其条件都受到质疑。

在社交媒体上讨论的不仅是“假货通过的恐惧”

在与此问题相关的公开讨论中，Reddit的英国警察相关社区“r/policeuk”中，AI制作或加工的图像和视频作为证据被引入的可能性成为话题。

以下不是对本次Global News文章的直接反应，而是同一主题的另一个帖子中的要点。由于是匿名发布，无法独立确认发布者的职业或体验的真实性。

其中一个是对防盗影像等“是否由AI制作”的疑虑，可能会削弱真实记录的说服力的担忧。

另一方面，有人认为直接从拍摄源获取数据以及核对记录同一事件的多个影像变得更加重要。

此外，还有帖子指出，检测工具的测试数据与现场日常处理的影像不同，支持将AI用于初步确认，然后由人进行调查的方法。

这些并不代表整个舆论。然而，可以看出关注点不仅在于“能否识破假货”，还在于“如何维护对真实的信任”。

对“这是AI”的怀疑也需要验证

生成AI带来的问题有两个方向。

一个是，虚假的东西被当作真实接受。另一个是，真实的东西被当作虚假拒绝。

如果只警惕前者，开始怀疑所有影像，记录受害或事件的人们的努力可能会变得毫无意义。

反过来，仅凭外观的自然性就信任，可能会接受巧妙制作的资料。

所需的不是先决定“相信”还是“怀疑”的态度，而是确认该记录的形成过程的姿态。

是谁、何时、何地记录的？是否有原始数据？是如何共享的？是否与其他资料不矛盾？

指出AI加工可能性的一方也需要能够检讨该指控的材料。仅仅因为有可能性，并不意味着个别记录就成了假货。

与日本的我们相关的“记录的保存方式”

这次的报道是关于加拿大的研究，并不是说日本的法院采用了相同的机制。

即便如此，与生活的接触点很多。

交通事故的行车记录仪、工作上的交流、与店铺的纠纷、社交媒体上的骚扰。为了防备发生什么事，拍照、录音、记录屏幕的人可能不少。

从这次的课题中可以作为日常记录管理的启示是，除了共享用的副本，还要保留获取时状态的数据。

即使有为了便于观看而裁剪的图像，也要保存裁剪前的原始图像。即使制作了短视频，也要保留包括前后在内的原始视频。记录的日期和情况也要能够追溯。

这些并不是保证特定资料在日本的法庭上被承认为证据的方法。但可以作为不减少自己可供后续确认的线索的思考方式。

“拍到了什么”和“该记录如何保存”同样重要。

提升画质与确认事实是不同的

另一个在日常中需要注意的是使用生成AI进行图像校正。

这里要考虑的是，与格罗斯曼等人的两个试验不同的，处理记录时的问题。

将暗淡的影像处理为明亮与让生成AI补充看不见的部分并不具有相同的意义。即使出现看似合理的脸或物体形状，也不能确认其在原场景中存在。

变得更易看的图像会给观看者留下深刻印象。然而，印象的鲜明度与作为记录的可靠性是不同的。

即使为了确认或解释而制作了加工版，也要注意不要与原始数据混淆。记录到哪里，处理的表现从哪里开始。如果失去了这种区分，即使是善意的工作也会使判断变得困难。

仅等待“万能检测器”是不够的

格罗斯曼等人正在继续研究，计划在下一阶段从执法机构和政策制定者那里获取意见。

她指出的不仅是技术，还有法律、法规、政策以及人们辨别信息的教育。

是否应该将负担集中在有害物被制作后进行检测的一方？是否有应该禁止制作的东西？原始文章中也提到了这些政策方面的考虑。然而，并未提出具体的制度方案来说明应该禁止什么到何种程度。

研究的困难并不是放弃的理由。相反，它成为区分技术能做什么和技术不能单独承担的材料。

未来证据的信赖不能仅依靠一个检测器给出的答案。需要积累原始数据、记录的经过、周边资料以及人的解释。

照片和视频的价值并没有消失。为了保护这种价值，不仅要关注显示的内容，还要确认达到那里的路径。

出处与参考资料

1. Global News／The Canadian Press：
   格罗斯曼的解释、结合多个检测算法的机制、在实际的两个案例中判断未能充分一致的问题、图像压缩和元数据丢失的问题、未来的研究方针。
   https://globalnews.ca/news/12127820/distinguishing-ai-information-in-court/

2. 滑铁卢大学：研究项目的背景和目的
   CIFAR的支持下的研究体制、追求免费和开源工具的理由、关于专家验证费用和司法访问的解释。University of Waterloo
   https://uwaterloo.ca/computer-science/news/cs-professors-receive-new-cifar-grants-address-ai-safety

3. Reddit「r/policeuk」：围绕AI制作和加工的证据的公开讨论
   关于连真实的防盗影像也被怀疑的担忧、确认拍摄源和核对多份资料、人和AI的角色分配的帖子参考。不是对原始文章的直接反应，而是作为匿名的相关讨论介绍。reddit.com
   https://www.reddit.com/r/policeuk/comments/1r5bxef/has_anyone_come_across_an_instance_of_ai/