Las alucinaciones de IA llegan a los juzgados: 8 de cada 10 jueces han experimentado casos con sentencias falsas

  • La Corte Suprema realiza su primer sondeo entre magistrados de todos los niveles para evaluar la magnitud de leyes y sentencias fraudulentas

  • El 91% de los jueces pide medidas institucionales: desde multas administrativas hasta obligación de verificar las sentencias citadas

Documento legal falso generado por inteligencia artificial [Gráfico generado por ChatGPT]
Documento legal falso generado por inteligencia artificial [Gráfico generado por ChatGPT]

Ocho de cada diez magistrados han experimentado casos en los que sentencias falsas generadas por inteligencia artificial fueron citadas en procedimientos judiciales.

La Corte Suprema dio a conocer el 2 de noviembre los resultados de una encuesta realizada entre magistrados de todos los niveles judiciales del país entre el 6 y el 16 de octubre sobre citaciones de sentencias falsas y normativas fraudulentas generadas por IA. En total, 360 jueces respondieron la encuesta.

La Corte Suprema realizó esta consulta por primera vez para determinar el alcance real del fenómeno, ante la creciente cantidad de casos en los que alucinaciones de IA —es decir, la presentación plausible de información incorrecta— generan citaciones de leyes y sentencias que no existen o contienen contenido distinto al real.

Según los resultados, aproximadamente el 80% de los magistrados que atienden asuntos civiles, de familia y administrativos reportaron haber experimentado casos en los que se citaron sentencias inexistentes o sentencias falsas con contenidos sustancialmente diferentes a los reales.

Por categoría, los jueces que enfrentaron citaciones de sentencias inexistentes fueron 196 (80,7%), la cifra más alta. Les siguieron citaciones de sentencias falsas con 159 casos (65,4%), citaciones de leyes falsas o inexistentes con 41 casos (16,9%), y citaciones de artículos, documentos o materiales académicos falsos o inexistentes con 10 casos (4,1%).

En cuanto a quién presentó estas sentencias falsas, 164 magistrados (69,5%) señalaron que fueron los propios litigantes, mientras que 136 jueces (57,6%) identificaron a abogados litigantes o defensores como responsables. Esto indica que tanto las partes como sus representantes legales han presentado múltiples casos de sentencias falsas o inexistentes en sus escritos.

Entre los casos concretos documentados figuran la presentación de sentencias falsas confeccionadas mediante IA que réplican exactamente el formato de resoluciones de la Corte Suprema, o casos en los que se citó un número de expediente de la Corte Suprema que no corresponde a sentencia alguna. También se detectaron casos en los que el contenido de sentencias reales fue alterado intencionalmente, citas que distorsionan la intención de la sentencia original, e incluso fragmentos de conversaciones con IA o estrategias procesales que permanecieron en los escritos presentados ante los tribunales.

El 91,7% de los magistrados encuestados respondió que es necesario implementar medidas institucionales para abordar el problema de las citaciones de sentencias falsas y normativas fraudulentas generadas por IA. Entre las medidas sugeridas se incluyen el establecimiento de multas administrativas, la imposición de obligaciones de verificación de las sentencias citadas, y el requerimiento de denuncias disciplinarias contra abogados que cometan infracciones repetidas.

La Administración Judicial enfatizó que "la parte demandada incurre en tiempo y costos adicionales al verificar la existencia de sentencias falsas y confirmar la exactitud de su citación; en particular, las partes que se representan a sí mismas sin abogado pueden enfrentar dificultades significativas para identificar estos errores y responder adecuadamente".

Asimismo, señaló que "los tribunales también invierten tiempo adicional en verificar esta información, lo que puede obstaculizar la tramitación ágil de los procedimientos".

Un portavoz de la Administración Judicial manifestó que "la citación de sentencias falsas o inexistentes generadas por IA finalmente vulnera el derecho de los ciudadanos a la justicia pronta y expedita", y anunció que, sobre la base de los resultados de esta encuesta, la administración elaborará medidas efectivas tanto en el ámbito normativo como en la práctica judicial.

En consecuencia, la Corte Suprema planea modificar la Ley de Procedimiento Civil y la Ley de Procedimiento Penal para establecer disposiciones que permitan la imposición de multas administrativas. Para ello, coordinará con el Ministerio de Justicia y otros organismos competentes antes de presentar sus observaciones ante el Parlamento.

Además, la Corte estudia la posibilidad de incluir advertencias sobre "precauciones al utilizar IA" en el portal de procedimientos electrónicos para que abogados y litigantes puedan verificar la exactitud de los materiales citados cuando utilizan herramientas de inteligencia artificial.




* Este artículo ha sido traducido por IA.