La IA irrumpe en la Justicia entre el vértigo tecnológico y la defensa de los derechos

La segunda ponencia de las XV Jornadas Jurídicas de Ceuta ha confirmado este jueves el enorme interés que despierta la Inteligencia Artificial en el ámbito judicial.

La conferencia, que congregó a un gran número de asistentes, estuvo a cargo de Joaquín Silguero Estagnan, magistrado y director del Centro de Documentación Judicial (CENDOJ) del Consejo General del Poder Judicial, quien analizó los retos, riesgos y aplicaciones reales de la IA en la Administración de Justicia.

La sesión, moderada por las magistradas María del Mar Delgado Pedrajas y Arantxa Guerra Giménez, abordó cómo la tecnología está transformando ya el funcionamiento de los tribunales y el trabajo diario de jueces y magistrados.

"La IA tiene sentido si está al servicio de la Justicia"

Silguero comenzó su intervención diferenciando entre quienes observan la Inteligencia Artificial con entusiasmo y quienes la contemplan “con miedo a quedarse fuera por desconocimiento”.

Para el magistrado, el debate no debe centrarse en rechazar o aceptar la tecnología, sino en garantizar que su aplicación responda siempre a un objetivo claro: “Que esté al servicio de la función jurisdiccional”.

El director del CENDOJ ha defendido además la necesidad de dotar a los jueces de medios tecnológicos acordes con la realidad actual y ha lamentado que la transformación digital de la Justicia avance todavía con importantes limitaciones estructurales.

El "tesoro" de datos del CENDOJ

Durante su exposición, Silguero ha destacado el potencial del Centro de Documentación Judicial como una de las grandes bases de datos jurídicas del país y una auténtica “mina de oro” para el desarrollo de herramientas basadas en Inteligencia Artificial.

Ha explicado que uno de los principales trabajos desarrollados por el CENDOJ ha consistido en fragmentar y estructurar miles de resoluciones judiciales en elementos concretos capaces de alimentar sistemas inteligentes.

"El dato es la base de toda la carrera digital", resumió.

Entre los avances ya implantados, ha destacado sistemas capaces de anonimizar automáticamente sentencias, detectar referencias jurisprudenciales o localizar citas erróneas o falsas dentro de resoluciones judiciales.

Una IA "ética, segura y responsable"

Buena parte de la intervención ha girado en torno a los riesgos que plantea la Inteligencia Artificial en el ámbito judicial.

Silguero ha alertado de que muchos modelos de lenguaje funcionan como “cajas negras”, lo que dificulta garantizar plenamente criterios de transparencia, seguridad o ética.

En este contexto, ha insistido en la necesidad de proteger los derechos fundamentales y extremar las garantías en el tratamiento de datos personales. “La primera preocupación es la protección de datos”, ha manifestado.

El magistrado defendió principios como la trazabilidad de la información, la minimización de datos personales y el control humano permanente sobre cualquier herramienta tecnológica aplicada a procesos judiciales.

La IA no puede decidir sentencias

Uno de los mensajes más contundentes de la ponencia fue la negativa a permitir decisiones judiciales automatizadas. Silguero ha señalado que la normativa europea ya delimita qué usos de la IA están permitidos y cuáles quedan prohibidos dentro del ámbito judicial.

Así, ha concretado que pueden emplearse herramientas auxiliares para realizar resúmenes, búsquedas inteligentes o clasificación documental, pero nunca sistemas que propongan o adopten decisiones jurisdiccionales de manera autónoma. “Apoyo en la decisión, sí; autonomía en la decisión, no”, ha destacado.

Deepfakes, manipulación y ataques a los sistemas

El director del CENDOJ advirtió además de nuevos riesgos derivados del uso masivo de la IA, como la alteración de pruebas digitales, los contenidos manipulados o los ataques informáticos mediante inyección de instrucciones maliciosas.

También ha alertado sobre el fenómeno de las “alucinaciones” de la Inteligencia Artificial, cuando los sistemas generan respuestas incorrectas, utilizan legislación derogada o mezclan referencias de distintos países. Otro de los peligros señalados fueron los sesgos algorítmicos, que podrían derivar en situaciones discriminatorias si no existe una supervisión adecuada.

Nueve sistemas distintos y falta de interoperabilidad

Silguero ha aprovechado su intervención para denunciar uno de los grandes problemas estructurales de la Administración de Justicia española: la falta de interoperabilidad tecnológica entre territorios.

Actualmente conviven nueve sistemas diferentes de gestión procesal, además del utilizado por la Fiscalía, una fragmentación que, a su juicio, ralentiza el funcionamiento judicial y dificulta la implantación de soluciones comunes.

“La interoperabilidad sigue siendo uno de los grandes retos pendientes”, ha añadido.

Formación obligatoria para jueces

El magistrado ha defendido igualmente la necesidad de reforzar la formación tecnológica dentro de la carrera judicial. A su juicio, un juez que no conozca el funcionamiento básico de la Inteligencia Artificial tendrá dificultades para utilizar correctamente estas herramientas o detectar posibles manipulaciones.

Por ello, ha defendido la incorporación de contenidos específicos sobre IA tanto en la formación inicial como en la continua de jueces y magistrados.

Las máquinas no tienen voluntad

Silguero ha concluido su intervención con una reflexión sobre los límites éticos de la tecnología y el papel insustituible del ser humano en la Justicia.

Ha recordado una idea inspirada en Darwin: “No sobrevive el más fuerte, sino el que mejor se adapta”, para defender la necesidad de que la Justicia evolucione junto a la sociedad.

Sin embargo, ha concluido reivindicando el componente humano de la función jurisdiccional con una frase que resumió el espíritu de toda la ponencia: “La Justicia es la permanente voluntad de dar a cada uno su derecho”… y las máquinas no tienen voluntad, ha recordado Silguero.