Esperando al juez-robot: la utilización de sistemas de inteligencia artificial en el ejercicio de la actividad jurisdiccional
Esperando al juez-robot: la utilización de sistemas de inteligencia artificial en el ejercicio de la actividad jurisdiccional
JESÚS R. MERCADER UGUINA
Catedrático de Derecho del Trabajo y Seguridad Social
Universidad Carlos III de Madrid
Como inmediatamente me puso de manifiesto el profesor Nores Torres, agudo analista de la incorporación de la digitalización y la inteligencia artificial al proceso laboral, el BOE de 30 de enero de 2026 publicó el Acuerdo de 28 de enero de 2026, del Pleno del Consejo General del Poder Judicial, por el que se aprueba la Instrucción 2/2026, sobre la utilización de sistemas de inteligencia artificial en el ejercicio de la actividad jurisdiccional (“Instrucción 2/2026”). Se trata de una instrucción que sigue la senda iniciada por la Comisión Europea para la Eficiencia de la Justicia del Consejo de Europa que adoptó en 2018 la “Carta ética europea sobre el uso de la inteligencia artificial en los sistemas judiciales y su entorno”, y, ya en nuestro país, por la “Política sobre el uso de la inteligencia artificial en la administración de justicia” elaborada por el Comité Técnico Estatal de la Administración de Justicia Electrónica de 2024 y, en fin, por el Plan Justicia 2030 del Ministerio de Justicia que incorpora diferentes proyectos relacionados con la transformación digital o la automatización de los procedimientos. Actuaciones que vienen de la mano de la progresiva construcción de la justicia algorítmica (a este conjunto de transformaciones me he referido con más profundidad recientemente en: ¿«Algoritmo novit curia»?: Inteligencia artificial y jurisdicción social, Trabajo y derecho: nueva revista de actualidad y relaciones laborales, 2025, nº 131).
Un modelo de justicia que entraña indudables riesgos. El Reglamento de Inteligencia Artificial (Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo de 13 de junio de 2024 por el que se establecen normas armonizadas en materia de inteligencia artificial) (“RIA”) se asienta en el establecimiento de límites al uso de los sistemas que califica de “alto riesgo”. La lectura del artículo 6.2 en relación con el Anexo III de RIA ratifica de modo concluyente que los sistemas de IA utilizados en el ámbito de la administración de justicia poseen este carácter. Así lo dice el apartado 8 del citado Anexo III, que califica como de alto riesgo: a) Sistemas de IA destinados a ser utilizados por una autoridad judicial, o en su nombre, para ayudar a una autoridad judicial en la investigación e interpretación de hechos y de la ley, así como en la garantía del cumplimiento del Derecho a un conjunto concreto de hechos, o a ser utilizados de forma similar en una resolución alternativa de litigios;
El RIA incorpora, por ello, un importante sistema de garantías que se anudan a los requisitos generales que deberán cumplir los sistemas de IA de alto riesgo “teniendo en cuenta sus finalidades previstas, así como el estado actual de la técnica generalmente reconocido en materia de IA” (art. 8). Ello lleva consigo el establecimiento, implantación, documentación y mantenimiento de un sistema de gestión de riesgos entendido como “un proceso iterativo continuo planificado y ejecutado durante todo el ciclo de vida de un sistema de IA de alto riesgo, que requerirá revisiones y actualizaciones sistemáticas periódicas” (art. 9). A ello se une la necesaria “gobernanza de los datos” (art. 10), las exigencias de una precisa documentación técnica (art. 11) y la necesidad de garantizar un nivel de trazabilidad del funcionamiento del sistema (art. 12). La transparencia suficiente para que los responsables del despliegue interpreten y usen correctamente la información de salida que incorporen los sistemas de IA, constituye un principio maestro (art. 13) al que se une la necesidad de que su diseño y desarrollo permita cumplir con el principio de humano al mando (art. 14). En fin, unos sistemas que se diseñarán y desarrollarán de modo que alcancen un nivel adecuado de precisión, solidez y ciberseguridad y funcionen de manera uniforme durante todo su ciclo de vida (art. 15).
La Instrucción 2/2026 viene a integrar alguna de sus más significativas garantías en el uso de los sistemas de IA en el ejercicio de la actividad judicial. Tras definir distintos conceptos (entre otros, “sistema de IA”, “herramientas de IA generativa”, o el “sesgo algorítmico”), se precisan los principios que deben regir la utilización de las herramientas de inteligencia artificial en el ejercicio de la actividad jurisdiccional en concreto: a) Principio de control humano efectivo. b) Principio de no sustitución de los jueces, juezas, magistrados y magistradas. c) Principio de responsabilidad judicial. d) Principio de independencia judicial. e) Principio de respeto a los derechos fundamentales. f) Principios de confidencialidad y seguridad. g) Principio de prevención de sesgos algorítmicos. h) Principios de proporcionalidad y uso limitado. i) Principio de formación y capacitación.
Especial importancia reviste el reconocimiento de la “reserva de humanidad” o, como se la ha calificado, humano al mando (human-in-the-loop, human-on-the-loop, or human-in-command). Un principio que, como señala la Instrucción, implica el constante “control humano, real, consciente y efectivo” por parte de los/as jueces/as y magistrados/as de los sistemas de IA, que no podrán operar de forma autónoma para la toma de decisiones judiciales, la valoración de los hechos o de las pruebas o la interpretación y la aplicación del Derecho. Se trata de poner límites a preocupantes prácticas que están comenzando a ver la luz tanto en nuestro país, como fuera de él. La Sentencia de la Cámara de lo Penal de Esquel Provincia de Chubut, Argentina, de 15 de octubre de 2025 es un buen ejemplo. La misma anula una condena a prisión al constatar que el juez de primera instancia había utilizado Inteligencia Artificial para redactar parte de su sentencia. Decía la sentencia: “Aquí tienes el punto IV reeditado, sin citas y listo para copiar y pegar”, una frase muy común en aplicaciones de IA, que quedó por error en el texto, prueba que evidencia el uso de IA por parte del juez para redactar la sentencia. El referido pronunciamiento concluye que: “Aunque la IA Gen puede asistir en la generación de ideas o borradores, la decisión final debe recaer siempre en un operador humano que evalúe el contexto específico del caso (…)”. Y es que, salvo que la realidad futura lo desmienta, a día de hoy la potestad jurisdiccional es una función consustancial y ontológicamente anudada a la naturaleza humana.
Como pusiera de manifiesto el Informe al Anteproyecto de ley de eficiencia digital del Servicio público de justicia, Acuerdo adoptado por el Pleno, de 24 de febrero de 2022, “las exigencias derivadas de los principios consagrados en el artículo 117 CE, y del artículo 24.1 CE, imponen la necesidad de los debidos controles, evaluaciones y las garantías adecuadas en la configuración, en la utilización y en el resultado de los mecanismos de inteligencia artificial aplicados a la función jurisdiccional”. Ello explica que el ordinal cuarto de la Instrucción se refiera, también, como principios informadores del uso de los sistemas de IA a la responsabilidad judicial; el de independencia judicial; el respeto de los derechos fundamentales y a los principios de confidencialidad y seguridad, al principio de prevención de sesgos algorítmicos, al de proporcionalidad y uso limitado y, en fin, al de formación y capacitación (alfabetización, en términos del RIA). Tal y como concreta el ordinal decimotercero de la Instrucción, “el Consejo General del Poder Judicial ofertará a los jueces, juezas, magistrados y magistradas actividades formativas y de capacitación sobre el uso de sistemas de IA en el ámbito de la Administración de Justicia”.
Pero uno de los riesgos más relevantes a los que se enfrenta el uso de los sistemas de IA en el ámbito judicial es la pérdida de control sobre los datos que derivan del uso de estos sistemas, controlados por agentes privados. Por ello, la Instrucción pone el acento en el hecho de que los miembros de la Carrera Judicial sólo podrán utilizar las aplicaciones de IA, incluidas las herramientas de IA generativa, que les sean facilitadas por las administraciones competentes en materia de Justicia y hayan pasado el control del CGPJ o aquellas que les sean proporcionadas directamente por el órgano de gobierno de los jueces.
La instrucción considera usos permitidos, además de lo que resulte de la normativa de aplicación, la búsqueda y localización de información jurídica, la recuperación de antecedentes procesales; el análisis, clasificación y estructuración de información, documentos y datos con fines de organización, comprensión o apoyo al estudio del asunto; o elaboración de esquemas, resúmenes o borradores de trabajo interno, siempre que no tengan carácter decisorio ni sustituyan la redacción personal. Los sistemas de IA que se utilicen en el ejercicio de la función jurisdiccional deberán asegurar que el borrador documental sólo se genere a voluntad del juez, jueza, magistrado o magistrada y pueda ser libre y enteramente modificado por estos antes de su validación como resolución judicial o procesal (voluntariedad de generación y modificabilidad total). En el ejercicio de la actividad jurisdiccional, el uso de ese tipo de borradores exigirá siempre una revisión y validación personal completa y crítica por parte del juez/a y magistrado/o, quien mantendrá su exclusiva responsabilidad sobre la resolución.
En todo caso, las herramientas de IA autorizadas no podrán usarse cuando impliquen sustitución, automatización o delegación de la toma de decisiones judiciales, valoración de hechos o pruebas o interpretación y aplicación del Derecho; tampoco podrán utilizarse resultados generados por inteligencia artificial que condicionen de manera directa o indirecta la independencia judicial o la libertad de criterio de los jueces/as y magistrados/as ni podrán incorporarse a las resoluciones judiciales contenidos generados por IA sin previa valoración “crítica, completa y personal” del juez/a o magistrado/a. Los sistemas de IA tampoco podrán ser utilizados por los miembros de la Carrera Judicial para el tratamiento de datos personales especialmente protegidos o de información sujeta a deberes reforzados de confidencialidad; y tampoco con fines de perfilado de personas, predicción de comportamientos, evaluación de riesgos o clasificación de sujetos.
La Instrucción deja claro en su ordinal undécimo que “el incumplimiento de los criterios, pautas de uso y principios establecidos en la presente instrucción por los jueces, juezas, magistrados y magistradas podrá dar lugar a las responsabilidades que procedan, conforme a lo previsto en la Ley Orgánica del Poder Judicial, sin perjuicio de las medidas preventivas o correctoras que puedan adoptarse en el ámbito organizativo o de gobierno del Poder Judicial”.
La Instrucción descarta, por el momento, los “jueces-robots” al establecer el principio de “no sustitución de los jueces/as y magistrados/as”, que prohíbe que la IA supla a los miembros de la Carrera Judicial en el ejercicio de la actividad jurisdiccional. En la actualidad, no hay ningún país que tenga jueces algorítmicos totalmente autónomos que decidan sin intervención humana en todos los casos, pero sí hay algunos países que usan IA para tomar decisiones en casos menores. En Estonia, el proyecto de ‘robot judge’ para reclamaciones de pequeño importe (por ejemplo, menos de 7.000 euros); y, en China, tribunales de Internet que se usan IA para generar borradores de sentencia, recibir litigios, sistematizar decisiones, asistir con procesamiento rutinario. Como señala Gómez Colomer, “en ninguno de los dos países, sin embargo, la IA se ha apoderado totalmente del proceso. En primer lugar, solo actúan en procesos civiles, y, en segundo lugar, proponen la decisión a un juez, quien debe revisar el procedimiento y ratificarla o no. Los recursos, de caber, se tramitan ante “jueces humanos”.
En nuestros sistemas constitucionales de Justicia, el juez-robot decisor no debiera tener cabida. Muchas razones pueden aducirse, la de más calado afecta a la puesta en peligro del principio de la independencia judicial si se introdujera en España, y en cualquier país democrático, porque la base de la decisión no se fundaría en el conocimiento racional y motivado del ser humano, sino en la información que alguien ajeno al poder judicial introduciría en el algoritmo que deba resolver el asunto. ¿Pero puede afirmarse con rotundidad que, en el futuro, lenta y progresivamente, la IA no se va a ir encargando de otras tareas más complejas?
CITA: MERCADER UGUINA, JESÚS R., “Esperando al juez-robot: la utilización de sistemas de inteligencia artificial en el ejercicio de la actividad jurisdiccional”, Briefs AEDTSS, número 9, Asociación Española de Derecho del Trabajo y de la Seguridad Social, 2026.
Briefs AEDTSS, nº 9, 2026
