La "verdad" en el tribunal: "¿Esa evidencia, es de IA?" Imágenes falsas que sacuden el tribunal y los límites de la tecnología para detectarlas

"¿Esa evidencia, es de IA?" Imágenes falsas que sacuden los tribunales y los límites de la tecnología para detectarlas

Grabaciones en smartphones, imágenes de cámaras de seguridad, fotos publicadas en redes sociales. Cuando surge un problema, estos registros pueden ser pistas para desentrañar discrepancias en las versiones.

Sin embargo, ¿qué hacer si se cuestiona que esos registros fueron creados por una IA generativa?

¿Es auténtico porque parece natural? Si una herramienta de detección lo señala como sospechoso, ¿es falso? ¿Aún conservamos el archivo original de una foto publicada hace años?

La investigación en Canadá destaca la dificultad de este problema. Se están desarrollando tecnologías para detectar pruebas creadas por IA. Sin embargo, los éxitos en el laboratorio no se trasladan directamente a los procedimientos judiciales reales.

Incluso reuniendo múltiples IA de detección, no se llega a una conclusión

Según un artículo de Canadian Press publicado por Global News el 30 de octubre de 2026, la investigación está siendo liderada conjuntamente por Maura Grossman, investigadora de ciencias de la computación de la Universidad de Waterloo, quien también enseña en la Facultad de Derecho Osgoode Hall de la Universidad de York.

El objetivo del equipo es crear una herramienta de código abierto, gratuita y fácil de usar para personas involucradas en el ámbito judicial, que ayude a determinar si imágenes u otros materiales han sido creados o manipulados por IA.

La característica del sistema es que no se basa en un solo algoritmo, sino que combina múltiples algoritmos avanzados de detección. Cada uno emite un juicio, y los resultados se reúnen como en un comité.

Sin embargo, a medida que el plan de investigación de dos años se acerca a su ecuador, han surgido desafíos.

En dos casos probados en situaciones reales, Grossman señaló que los algoritmos no coincidieron lo suficiente como para proporcionar conclusiones útiles.

Es importante notar que este informe no prueba que "todas las tecnologías de detección de IA son inútiles". El artículo original no detalla las condiciones específicas de estos dos casos ni proporciona tasas de precisión basadas en evaluaciones a gran escala. Tampoco se menciona que fuera una verificación formalmente adoptada en un tribunal.

Aun así, frente a materiales reales, puede haber casos en los que incluso combinando las tecnologías más avanzadas, los juicios difieran. Este hecho obliga a reconsiderar la expectativa de que "las falsificaciones de IA se resolverán mostrando a otra IA".

A medida que se publican en redes sociales, las pistas para la verificación disminuyen

¿Por qué surge una brecha entre el laboratorio y la realidad?

Una de las razones mencionadas por Grossman es que las imágenes cambian en el proceso de distribución.

El archivo justo después de ser capturado y la imagen publicada en redes sociales no siempre están en el mismo estado. Puede ser comprimido al publicarse, y los metadatos, que son información adjunta sobre la captura, pueden eliminarse.

Además, la imagen puede ser guardada, publicada en otro lugar y compartida como captura de pantalla. Aunque la imagen que se ve sea similar, la información investigable cambia respecto al archivo original.

Además, el problema en un juicio no siempre surge inmediatamente después de la publicación. Es posible que el archivo original haya desaparecido cuando surge una disputa años después.

Es crucial entender que el hecho de que una imagen esté comprimida o carezca de metadatos no es en sí mismo evidencia de falsificación. Incluso usando redes sociales de manera normal, se puede llegar a ese estado.

Incluso las imágenes auténticas pueden carecer de materiales de verificación. Por eso, "no se pudo determinar" y "era falso" deben distinguirse claramente.

En los tribunales, no solo se necesita un "resultado de detección"

En la navegación diaria por redes sociales, a veces basta con decidir "no compartir porque parece sospechoso".

Sin embargo, en un juicio, el impacto de la decisión es mucho mayor. La credibilidad de un registro puede influir en la responsabilidad y la vida de una persona.

Desde el principio, Grossman no ha considerado la herramienta como una solución universal, enfatizando la necesidad de intervención y juicio humano. También es necesario alguien que pueda explicar por qué se tomó una decisión determinada.

Si se utilizan los resultados de detección, se debe abordar qué se investigó, bajo qué condiciones se dificulta el juicio y cuánta incertidumbre permanece.

"Porque la IA dijo que era falso" no es suficiente para considerar que se ha verificado adecuadamente una evidencia que podría haber sido creada por otra IA.

La investigación plantea no solo el rendimiento de los detectores, sino también si los resultados de detección pueden ser comprendidos y evaluados por las personas en el contexto judicial.

El objetivo de una herramienta gratuita es el costo de la verificación

En la presentación de la investigación de la Universidad de Waterloo, se explica que investigar pruebas relacionadas con IA por parte de expertos puede ser costoso y causar retrasos en los juicios. Existe la preocupación de que tal enfoque sea difícil de implementar en casos que no sean de gran escala.

Una herramienta gratuita y fácil de usar también tiene como objetivo ayudar a las personas que enfrentan litigios por sí mismas o que no pueden acceder a suficiente apoyo especializado.

Esto sugiere el peligro de que el esfuerzo de crear falsificaciones y el esfuerzo de verificarlas se desbalanceen.

¿Qué pasaría si cada imagen sospechosa requiriera una evaluación costosa? Por el contrario, ¿qué pasaría si la persona que presenta un registro auténtico tuviera que incurrir en mucho tiempo y costos para explicar su autenticidad?

Este es un problema de equidad que surge del contexto de la investigación. ¿Qué tan ampliamente se pueden utilizar los medios para verificar pruebas? Junto con la precisión de la detección, también se cuestionan esas condiciones.

En las redes sociales, no solo se habla del "miedo a que pasen las falsificaciones"

En un debate público relacionado con este problema, en la comunidad "r/policeuk" de Reddit sobre la policía del Reino Unido, se ha discutido la posibilidad de que imágenes o videos creados o manipulados por IA se presenten como evidencia.

Lo siguiente no es una reacción directa al artículo de Global News, sino un resumen de publicaciones en otro hilo que trata el mismo tema. Son publicaciones anónimas y no se ha verificado de forma independiente la veracidad de las experiencias o profesiones de los autores.

Una preocupación es que la duda de "¿fue creado por IA?" se dirija a imágenes de seguridad, debilitando incluso la credibilidad de registros auténticos.

Por otro lado, se opina que obtener datos directamente de la fuente de grabación y cotejar múltiples videos del mismo evento se volverá más importante.

También se han visto publicaciones que apoyan el uso de IA como ayuda en la verificación inicial, seguida de una investigación humana, señalando que los datos de prueba para herramientas de detección no son lo mismo que los videos manejados cotidianamente en el campo.

Estas opiniones no representan a toda la opinión pública. Sin embargo, muestran que el interés no solo se centra en "¿podemos detectar las falsificaciones?", sino también en "¿cómo mantenemos la confianza en lo auténtico?".

Incluso la sospecha de "esto es IA" requiere verificación

Los problemas que plantea la IA generativa tienen dos direcciones.

Una es que lo falso sea aceptado como verdadero. La otra es que lo verdadero sea rechazado como falso.

Si solo nos preocupamos por lo primero y comenzamos a dudar de todos los videos, el esfuerzo de quienes registran daños o eventos puede volverse inútil.

Por otro lado, si confiamos solo en la apariencia natural, podríamos aceptar material hábilmente creado.

Lo necesario no es decidir de antemano si "creer" o "dudar", sino verificar cómo se originó ese registro.

¿Quién lo registró, cuándo y dónde? ¿Existen los datos originales? ¿Cómo se compartió? ¿No contradice otros materiales?

Incluso quienes señalan la posibilidad de manipulación por IA necesitan materiales que permitan examinar esa afirmación. El mero hecho de que exista una posibilidad no convierte automáticamente a cada registro en falso.

"Cómo preservar registros" también nos concierne en Japón

Este informe se refiere a la investigación en Canadá y no implica que los tribunales japoneses adopten el mismo sistema.

Aun así, hay muchas conexiones con la vida diaria.

Grabadoras de accidentes de tráfico, comunicaciones laborales, problemas con tiendas, acoso en redes sociales. No son pocas las personas que guardan fotos, grabaciones o capturas de pantalla por si acaso.

Una sugerencia de este desafío para la gestión diaria de registros es conservar no solo las copias para compartir, sino también los datos en el estado en que se obtuvieron.

Incluso si hay imágenes recortadas para mayor claridad, conservar las originales antes del recorte. Aunque se hagan videos cortos, guardar los originales con el contexto completo. También es importante poder rastrear la fecha y situación de la grabación.

Estos no son métodos que garanticen que un material específico sea aceptado como evidencia en un tribunal japonés. Sin embargo, son formas de no reducir las pistas que se pueden verificar más adelante.

"Cómo se preservó ese registro" es tan importante como "qué se muestra".

Mejorar la calidad de imagen y verificar hechos son cosas distintas

Otra cosa a tener en cuenta en la vida diaria es la corrección de imágenes mediante IA generativa.

Aquí se debe considerar un problema relacionado con el manejo de registros, distinto de los dos intentos de Grossman y su equipo.

El proceso de aclarar una imagen oscura y el de agregar partes invisibles mediante IA generativa no tienen el mismo significado. Aunque aparezcan rostros o formas de objetos plausibles, eso no significa que existieran en la escena original.

Las imágenes mejoradas pueden causar una fuerte impresión en el espectador. Sin embargo, la claridad de la impresión y la certeza del registro son cosas diferentes.

Incluso si se crea una versión procesada para verificación o explicación, es crucial no confundirla con los datos originales. ¿Dónde termina el registro y dónde comienza la expresión procesada? Si se pierde esa distinción, incluso un trabajo bienintencionado puede complicar el juicio.

No basta con esperar un "detector universal"

Grossman y su equipo continúan investigando y planean obtener opiniones de agencias de aplicación de la ley y responsables de políticas en la próxima etapa.

Grossman menciona no solo la tecnología, sino también la ley, la regulación, la política y la educación para que las personas puedan discernir la información.

¿Es correcto concentrar la carga en quienes detectan después de que se ha creado algo dañino? ¿No debería prohibirse la creación de ciertos materiales? El artículo original también menciona la consideración de políticas en este sentido. Sin embargo, no se han presentado propuestas específicas sobre qué prohibir y hasta qué punto.

Las dificultades en la investigación no son una razón para rendirse. Más bien, proporcionan materiales para discernir lo que la tecnología puede hacer y lo que no puede asumir por sí sola.

La confianza en las pruebas futuras no puede sostenerse solo con la respuesta de un detector. Es necesario acumular datos originales, el contexto del registro, materiales circundantes y explicaciones humanas.

El valor de las fotos y videos no desaparecerá. Para proteger ese valor, estamos en una era en la que es necesario verificar no solo el contenido mostrado, sino también el camino que llevó a él.

Fuentes y materiales de referencia

1. Global News/The Canadian Press:
   Explicación de Grossman, sistema que combina múltiples algoritmos de detección, falta de coincidencia suficiente en dos casos reales, problemas de compresión de imágenes y pérdida de metadatos, dirección futura de la investigación.
   https://globalnews.ca/news/12127820/distinguishing-ai-information-in-court/

2. Universidad de Waterloo: Antecedentes y objetivos del proyecto de investigación
   Sistema de investigación apoyado por CIFAR, razones para buscar una herramienta gratuita y de código abierto, explicación sobre los costos de verificación por expertos y el acceso a la justicia.University of Waterloo
   https://uwaterloo.ca/computer-science/news/cs-professors-receive-new-cifar-grants-address-ai-safety

3. Reddit "r/policeuk": Debate público sobre pruebas creadas o manipuladas por IA
   Referencia a publicaciones sobre la preocupación de que incluso las imágenes de seguridad auténticas sean cuestionadas, verificación de la fuente de grabación y cotejo de múltiples materiales, y la división de roles entre humanos e IA. No es una reacción directa al artículo original, sino una discusión anónima relacionada.reddit.com
   https://www.reddit.com/r/policeuk/comments/1r5bxef/has_anyone_come_across_an_instance_of_ai/