https://www.reuters.com/legal/litigation/judge-rules-both-sides-lawsuit-misused-ai-disqualifies-lawyers-2026-06-09/La suspensión del juicio debido a "casos inexistentes" creados por IA: el costo de no leer los documentos por parte de los abogados

En un tribunal de Estados Unidos, ocurrió un incidente inusual que simboliza la era de la IA generativa. El problema no fue el uso de la IA en sí mismo, sino que el contenido generado por la IA fue presentado al tribunal sin ser verificado por expertos humanos.

El caso en el Tribunal de Distrito del Norte de Mississippi involucraba una disputa contractual entre el abogado Tom Withers y la ciudad de Aberdeen, Mississippi. Withers demandó a la ciudad por honorarios legales impagos. Normalmente, los escritos se intercambian durante el litigio, organizando los hechos y argumentos legales antes de proceder al juicio. Sin embargo, en este caso, el tribunal detectó una anomalía significativa antes de llegar a esa etapa.

En los documentos presentados, se incluyeron precedentes legales que el tribunal no pudo encontrar.

Al principio, esto parecía un simple error de citación o una variación en la notación. Sin embargo, no fue solo una cita problemática. Tanto en los documentos de la parte demandante como en los de la parte demandada, había precedentes que no podían ser confirmados. Al investigar, el tribunal descubrió que estas citas eran "alucinaciones", es decir, referencias a casos inexistentes o no verificables en la forma presentada.

La alucinación se refiere al fenómeno en el que la IA generativa produce textos o información plausibles que no se basan en hechos. Esto es particularmente peligroso en el ámbito legal, ya que las citas de precedentes y leyes son la base de los argumentos, no meros adornos. Citar un caso inexistente es muy diferente a escribir ingredientes ficticios en una receta. Desperdicia el tiempo y la confianza del juez, la parte contraria, el cliente y todo el sistema judicial.

Lo que hizo que este caso fuera aún más inusual fue que el problema derivado de la IA no se limitó a un solo lado. Tanto la parte demandante como la demandada tenían problemas con los documentos generados por IA. Parecía como si un argumento generado por IA fuera respondido por otro argumento generado por IA. En las redes sociales, se comentó irónicamente que los clientes pagaron altos honorarios legales solo para presenciar una disputa entre IAs.

Según la orden de sanción, la abogada de la parte demandante, Kathleen Wilson, utilizó IA generativa para redactar documentos sin verificar las bases legales incluidas. La abogada de la parte demandada, Kathryn Williams, utilizó una herramienta de investigación legal basada en IA e incorporó sus resultados en los documentos sin verificación independiente. Además, los abogados locales de ambas partes firmaron los documentos sin haberlos revisado adecuadamente.

El tribunal no rechazó completamente el uso de la IA. De hecho, reconoce que la IA puede ser una herramienta útil si se utiliza adecuadamente. Sin embargo, el tribunal trazó una línea clara: la responsabilidad de los abogados que firman los documentos no puede trasladarse a la IA, a los co-representantes ni a las empresas de software. Aunque la IA puede generar textos, la veracidad y la responsabilidad del contenido recaen en el abogado.

Este fallo contiene un mensaje contundente para los profesionales en la era de la IA generativa. La IA puede ser un asistente útil para redactar borradores, realizar búsquedas y organizar argumentos. Sin embargo, en las etapas finales de presentación, publicación, facturación, diagnóstico o juicio, la verificación humana es indispensable. Especialmente en campos como el derecho, donde cada palabra puede estar vinculada a derechos, obligaciones, dinero o libertad, "la IA lo dijo" no es una justificación válida.

La jueza Sharion Aycock canceló el juicio programado y suspendió el procedimiento legal. Además, descalificó a los cuatro abogados involucrados en el caso. A los dos abogados que participaron directamente en la redacción de documentos problemáticos y en la investigación legal basada en IA se les prohibió comparecer ante el Tribunal de Distrito del Norte de Mississippi durante dos años. También se impusieron multas: Wilson fue multada con 2500 dólares, Williams con 3500 dólares, y los dos abogados locales con 1000 dólares cada uno. A Wilson se le ordenó además asistir a educación continua sobre el uso ético de la IA.

Esta sanción no se limita a multas. El tribunal también enviará órdenes a las asociaciones de abogados involucradas. Esto significa que el problema no se limita a un fracaso dentro de un solo litigio, sino que podría ser tratado como un problema de ética profesional.

Las reacciones en las redes sociales fueron una mezcla de ira, asombro y debates realistas.

En la comunidad legal, se destacó la reacción de que "se desperdició el tiempo y el dinero de un sistema judicial ya sobrecargado". Los tribunales manejan muchos casos. Presentar documentos generados por IA no verificados obliga a los jueces a realizar verificaciones que no deberían ser necesarias. Esto no solo avergüenza a los abogados, sino que consume recursos judiciales y retrasa los casos de otras partes.

También hubo muchas voces que simpatizaban con la posición de los clientes. Las personas contratan abogados porque carecen de conocimientos legales, confiando en los expertos. Sin embargo, cuando esos expertos presentan documentos generados por IA sin leerlos, el juicio se detiene y los representantes deben ser reemplazados. Para los clientes, parece que, aunque confiaron en expertos, terminaron asumiendo el riesgo de "falta de supervisión experta". En las redes sociales, hubo publicaciones que decían: "Si yo pagara honorarios legales por esto, estaría furioso".

Por otro lado, hubo quienes señalaron que es un error interpretar que fueron sancionados "por usar IA". En la comunidad tecnológica, se destacó que, aunque los titulares pueden sugerir que el uso de IA fue el problema, la esencia es "citar precedentes inexistentes sin verificarlos". De hecho, existen herramientas de IA para el ámbito legal y herramientas de apoyo a la búsqueda, que pueden ser útiles para mejorar la eficiencia si se combinan con una verificación adecuada. El problema no fue el uso de la herramienta, sino delegar completamente el trabajo a la herramienta.

Este punto es importante. Simplificar el problema a "no usar IA" es malinterpretar la esencia del problema. En el pasado, se han introducido bases de datos de precedentes, plantillas de documentos, software de redacción de contratos y sistemas de presentación electrónica en las oficinas legales. Muchos documentos rutinarios se han creado mediante una combinación de software o textos predefinidos. La IA puede ser utilizada como una herramienta en esa extensión. Sin embargo, la diferencia entre las herramientas convencionales y la IA generativa es que esta última puede crear mentiras plausibles en un lenguaje natural.

En las redes sociales también surgió la pregunta: "¿No se puede verificar automáticamente si los precedentes citados existen?". Técnicamente, sería posible realizar ciertas verificaciones automáticas, como cotejar con bases de datos de precedentes, verificar el formato de las citas y confirmar URLs o IDs de documentos. De hecho, algunos investigadores que rastrean precedentes alucinados por IA están desarrollando herramientas de verificación de referencias. Sin embargo, la responsabilidad final sigue siendo del presentador. Las herramientas de verificación no son infalibles y solo sirven para asistir en el proceso de confirmación.

Hay otro punto crucial en este caso: los errores de IA no son solo un problema de "principiantes". Tras la aparición de la IA generativa, se prestó atención a los errores cometidos por personas comunes que intentaban litigar por sí mismas usando IA o por usuarios inexpertos. Sin embargo, en este caso, están involucrados abogados que comparecen formalmente ante el tribunal. Y no solo de un lado, sino de ambos. Incluso los expertos pueden caer en la misma trampa si se combinan la carga de trabajo, la complacencia, la confianza excesiva y las expectativas desmesuradas sobre las herramientas.

Los casos de alucinaciones de IA que se convierten en un problema en los tribunales ya no son una excepción rara. En la base de datos que rastrea precedentes ficticios y citas erróneas generadas por IA, se han registrado numerosos casos relacionados confirmados en tribunales de todo el mundo. Solo en Estados Unidos, se han acumulado muchos casos, y la paciencia de los tribunales claramente se está agotando.

En particular, en los últimos años, la respuesta de los tribunales se ha vuelto más estricta. Lo que antes podía resolverse con multas o advertencias, ahora se enfrenta a prohibiciones de comparecencia, exclusión de casos, notificaciones a asociaciones de abogados y órdenes de educación, sanciones que tienen un impacto más práctico. Esto se debe a que se ha extendido la opinión de que solo las multas pequeñas no son un disuasivo efectivo. En las redes sociales, también se vieron opiniones severas como "solo las multas no duelen a quienes tienen recursos" o "se necesita un ejemplo".

Sin embargo, hay espacio para el debate sobre la severidad de las sanciones. Los abogados en este caso se disculparon ante el tribunal y al menos algunos reconocieron la causa del error. Los dos abogados locales no utilizaron directamente la IA, sino que se les criticó por no revisar los documentos de los co-representantes. Aun así, el tribunal determinó que, al haber firmado, tenían responsabilidad. Esta decisión probablemente afectará la forma en que se manejan las co-representaciones y los abogados locales en el futuro. "Solo presté mi nombre" o "no era el responsable principal" serán excusas menos aceptables en los tribunales.

La pregunta más importante que plantea este caso es cuál es el "valor del experto" en la era de la IA.

Si la IA puede escribir textos, ¿qué harán los abogados? Si la IA puede buscar algo que parezca un precedente, ¿son innecesarios los abogados humanos? Este caso sugiere una respuesta contraria. Cuanto más plausibles sean las informaciones proporcionadas por la IA, más se requerirá de los expertos humanos una capacidad de verificación y responsabilidad más alta. Dado que la IA puede redactar borradores, los expertos deben ser capaces de detectar, recortar, cotejar y, si es necesario, descartar esos borradores.

Esto no se limita a la industria legal. En medicina, finanzas, educación, periodismo, administración, producción publicitaria, desarrollo de software y cualquier otro campo donde la IA se integre en el trabajo, surge el mismo problema. ¿Quién verificó lo que creó la IA? ¿Con qué fuentes se cotejó? Si surge un error, ¿quién asumirá la responsabilidad? Si se apresura la implementación de la IA sin este diseño básico, en lugar de mejorar la eficiencia, se provocará un colapso de la confianza.

La IA generativa, si se usa incorrectamente, se convierte en una "herramienta para producir errores rápidamente" en lugar de una "herramienta para ahorrar tiempo". Además, como esos errores están envueltos en un lenguaje natural, pueden parecer impresionantes en la superficie. Es probable que los abogados en este caso no crearan deliberadamente precedentes ficticios con mala intención. Sin embargo, la falta de mala intención no es una excusa. Los documentos presentados al tribunal conllevan la responsabilidad mínima de ser verificados.

Es probable que el flujo de la IA hacia los tribunales no se detenga. Hay situaciones en las que la IA puede ser útil, como en la investigación legal, la redacción de documentos, la organización de pruebas y la revisión de contratos. Sin embargo, cuanto más se introduzca la IA, más estrictos deben ser la ética profesional y los procedimientos de verificación. ¿Qué herramienta se utilizó? ¿Quién verificó el resultado? ¿La fuente citada existe realmente? ¿El contenido del precedente realmente respalda el argumento? Estas verificaciones aparentemente mundanas se convertirán en el núcleo del trabajo profesional en la era de la IA.

La decisión del tribunal en este caso no fue un rechazo a la IA, sino una clarificación de la responsabilidad en la era de la IA. La IA generativa puede crear palabras. Sin embargo, no puede crear responsabilidad. La responsabilidad recae en el ser humano que finalmente elige, firma y presenta esas palabras.

URL de la fuente

Gizmodo: Reporta sobre el resumen del caso, el hecho de que ambos abogados no verificaron los documentos generados por IA y la respuesta del juez.
https://gizmodo.com/judge-cancels-whole-case-after-lawyers-admit-they-didnt-read-ai-generated-filings-2000769668

404 Media: Artículo que informó detalladamente sobre el caso en sus etapas iniciales. Se confirma la orden de sanción del tribunal, la observación de Rob Freund en redes sociales y el contexto de "un caso que parecía una disputa entre IAs" que se difundió en redes sociales.
https://www.404media.co/judge-learns-lawyers-on-both-sides-of-case-used-ai-cancels-trial-kicks-everyone-off-the-case/

PDF de la orden de sanción del Tribunal de Distrito del Norte de Mississippi: Documento original con el número de caso, las partes involucradas, las citas ficticias o no verificables derivadas de la IA, el contenido de las sanciones a los cuatro abogados, las multas y la prohibición de comparecencia durante dos años.
https://storage.courtlistener.com/recap/gov.uscourts.msnd.50181/gov.uscourts.msnd.50181.123.0.pdf

Reuters: Confirma el resumen del caso, los nombres de los abogados sancionados, las multas, la prohibición de comparecencia durante dos años y la notificación a las asociaciones de abogados.
https://www.reuters.com/legal/litigation/judge-rules-both-sides-lawsuit-misused-ai-disqualifies-lawyers-2026-06-09/

Reddit r/law: Confirmación de reacciones en la comunidad legal. Se hace referencia al desperdicio de recursos judiciales, el impacto en los clientes y las críticas a los abogados por no verificar los documentos generados por IA.
https://www.reddit.com/r/law/comments/1u16wbc/judge_learns_lawyers_on_both_sides_of_case_used/

Reddit r/technology: Confirmación de reacciones en la comunidad tecnológica. Se señala que el problema no fue el uso de la IA en sí, sino la cita de precedentes inexistentes sin verificación, y se discute la responsabilidad de verificación humana junto con las herramientas de IA.
https://www.reddit.com/r/technology/comments/1u18o6n/judge_learns_lawyers_on_both_sides_of_case_used/

Base de datos "AI Hallucination Cases" de Damien Charlotin: Utilizada para confirmar la expansión de casos de alucinaciones de IA en presentaciones judiciales, el número de registros en todo el mundo y en EE.UU., y el contexto del problema de precedentes ficticios generados por IA.
https://www.damiencharlotin.com/hallucinations/