Nuevo Reglamento Europeo de IA: Los derechos humanos como especificación técnica de producto
Nuevo Reglamento Europeo de IA: Los derechos humanos como especificación técnica de producto
LUIS ANTONIO FERNÁNDEZ VILLAZÓN
Profesor Titular de Derecho del Trabajo y de la Seguridad Social
Universidad de Oviedo
El nuevo Reglamento Europeo de Inteligencia Artificial es la gran apuesta del viejo continente para recobrar el terreno perdido en lo que ya podemos llamar, reconvirtiendo viejos términos, la “carrera por la Inteligencia Artificial”. Esa competencia cada vez más cruda por el desarrollo y la aplicación de sistemas de IA está siendo liderada de forma indiscutible por China y Estados Unidos. Por eso, en los trabajos para la realización del Reglamento y en su propio texto se trasluce una preocupación evidente: “Europa no puede quedar descolgada”. Preocupación que es principalmente económica, pero también de índole geopolítica.
Pues bien, en lo que Europa va por delante es, sin duda, en el ámbito regulatorio. Por ello, ha querido ser pionera en la regulación de la IA, diseñando un reglamento con vocación de influencia internacional más allá de nuestras fronteras. Es evidente que ha querido replicarse el modelo de éxito de la regulación sobre protección de datos personales, que se ha convertido con el tiempo en un estandarte de la Unión y en un símbolo de los altos estándares de calidad del derecho europeo y de su capacidad para imponerlos en el ámbito internacional, especialmente en lo que se refiere a la protección de los derechos fundamentales.
Ambas preocupaciones se advierten claramente en el texto del Reglamento. Su artículo 1 declara abiertamente que su objetivo es “mejorar el funcionamiento del mercado interior”, pero quiere hacerlo promoviendo una inteligencia artificial “centrada en el ser humano” y garantizando “un elevado nivel de protección de la salud, la seguridad y los derechos fundamentales”. En definitiva, un mercado con conciencia o, si se prefiere, un mercado “decente”.
¿Pero cómo conseguir una regulación que sea eficaz y, sobre todo, que tenga esa capacidad de influencia fuera de nuestras fronteras? Realmente se antoja una tarea compleja, desde el momento en que la Unión Europea ha tenido siempre grandes dificultades incluso para fijar una política exterior común. No digamos ya para hacerla valer. Pero lo que ha sido siempre un elemento de fortaleza es un atractivo mercado de millones de personas y considerable poder adquisitivo. Aquí la Unión recupera un viejo criterio que la globalización y los tratados de libre comercio parecían haber dejado en un segundo plano, pero que ahora recupera protagonismo en materia de derechos humanos: “Si quieres entrar en nuestro mercado, debes respetar nuestras normas”.
Lo cierto es que la Unión es experta en diseñar y aplicar reglas que deben cumplir los productos que se fabrican, importan, distribuyen o usan en el continente. Lo que se persigue con el reglamento de IA es incorporar como una de esas reglas el respeto de los derechos fundamentales, siguiendo para ello las pautas que da la propia norma. Comercializar y poner en marcha en Europa un sistema de IA de los calificados como “de alto riesgo” requerirá cumplir con esas exigencias, ser sometido al procedimiento pertinente de evaluación de la conformidad con las mismas y utilizar el marcado CE para indicarlo (la idea es muy similar al marcado que buscábamos durante la pandemia en las mascarillas para asegurar que cumplían los estándares europeos de protección). Desde un punto de vista ético-filosófico, tal vez pueda generar algunas dudas esta conversión de los derechos humanos en una especificación técnica de producto. Podría considerarse, al fin y al cabo, una especie de mercantilización de tales derechos. Pero preciso es reconocer que la medida es imaginativa y eminentemente práctica, fruto de un detenido análisis de lo que las instituciones comunitarias pueden y no pueden hacer. Habrá, por supuesto, que esperar para ver cómo se desenvuelve la nueva normativa, pero a priori me atrevería a decir que podría funcionar.
La norma, además, desarrolla una interesante distribución de responsabilidades entre los diversos sujetos que intervienen en el proceso de aplicación de los sistemas de IA. Desde el proveedor (que vendría a ser el “fabricante”), pasando por los importadores y distribuidores y llegando al “responsable del despliegue”, la persona física o jurídica que va a utilizar el sistema para sus fines propios. El proveedor es el responsable de que el producto cumpla con los requisitos de la UE (que no pueda ser utilizado para prácticas prohibidas, que incluya un plan de gestión de riesgos para los derechos fundamentales, que permita la intervención y control humanos, etc.) y de obtener la declaración de conformidad y el marcado CE. Los importadores y distribuidores deben comprobar que la documentación del producto está en orden y que dispone de dicho marcado. Por su parte, el responsable del despliegue debe responsabilizarse de la calidad de los datos con los que alimenta el sistema, garantizar que se use conforme a las instrucciones dadas por el proveedor y colocar en los puestos que permiten su control a personas con la competencia y la formación necesarias. Todo el sistema está diseñado para que ninguna parte de la cadena de producción-distribución-utilización eluda sus responsabilidades. Es más, cada uno de los eslabones debe comprobar que el anterior ha cumplido con las suyas y reportar los riesgos para los derechos fundamentales que puedan surgir.
El reglamento incluye, además, diversas previsiones relativas a la incidencia de la IA en el ámbito laboral, entre las que cabe destacar la obligación del responsable del despliegue, de informar a los representantes de los trabajadores y a los propios trabajadores de que estarán expuestos a la utilización de un sistema de IA de alto riesgo (art, 26.7). Que se incluya esta mención expresa a la representación de los trabajadores en una norma de alcance general ya es indicativo de la relevancia que el legislador comunitario da al asunto. Esa relevancia la deja muy clara el considerando 92 de la norma, cuando señala que este derecho de información se considera “accesorio y necesario para el objetivo de protección de derechos fundamentales que subyace en el presente Reglamento”.
Debe tenerse en cuenta que, según el citado considerando, el legislador europeo parte de la premisa de que ya es posible deducir de la normativa previa una obligación de “información y consulta” a la representación de los trabajadores sobre la decisión de utilizar sistemas de IA (se cita expresamente la Directiva 2002/14/CE). Ello implica que la mención del artículo 26.7 se concibe como una cláusula de cierre o seguridad para los casos en que “no se cumplan las condiciones de las citadas obligaciones de información o de información o consulta”. Una cláusula de cierre que en ningún caso pretende afectar a ninguno de los derechos que ya puedan tener reconocidos los trabajadores en virtud del Derecho comunitario o del de los Estados miembros.
Las referencias pueden parecer limitadas, pero se advierte en ellas una apuesta por que la utilización de la IA en el lugar de trabajo sea, al menos, discutida con la representación colectiva. Ello implica, en cierto modo, una nueva reivindicación del marco regulatorio europeo, en este caso, del que insiste en la relevancia de los modelos de información y consulta con los trabajadores. La norma comentada no va más allá, pero anticipa un camino en el que ahondan futuros desarrollos normativos, como la Directiva sobre trabajo en plataformas, pendiente en estos momentos de un procedimiento de corrección de errores en el Parlamento.
A modo de recapitulación, podemos afirmar que el nuevo Reglamento es un modelo de legislación europea. Y lo es porque encarna, casi de forma paradigmática, lo mejor y lo peor de la normativa comunitaria. Como ejemplo de lo mejor, es una norma muy concienzuda, con un excelente análisis de la situación actual y que ofrece soluciones imaginativas. Va acompañado, por añadidura, de un potente sistema de gobernanza en el que las autoridades nacionales de vigilancia del mercado, las encargadas de proteger los derechos fundamentales, la Comisión Europea y los propios operadores del mercado colaboran para asegurar su cumplimiento.
Como ejemplo de lo peor, cabe insistir en dos aspectos principales: La excesiva burocratización que implica y su carácter extremadamente complejo. La burocratización no será un problema para las grandes empresas tecnológicas, pero si lo puede ser para las pequeñas y medianas empresas, a las que el Reglamento trata de favorecer con algunas reglas especiales y cierta simplificación de trámites. No obstante, en una primera lectura, estas modulaciones se antojan claramente insuficientes. En cuanto a la complejidad, llama la atención que el Reglamento muestre preocupación por la “alfabetización” en materia de IA (art. 4) y no haya comenzado ese proceso por la propia norma. No nos engañemos, esta ley europea no necesita ser colocada a varios metros de altura en el Foro para permanecer ajena al común de los ciudadanos. No es precisamente un texto de lectura fácil ni de comprensión sencilla.
Todo ello ahonda en esa imagen de una Europa de burócratas y técnicos, alejada de las necesidades diarias del ciudadano de a pie, que ha ayudado sin duda a la expansión de las posiciones ideológicas euroescépticas a la que estamos asistiendo en los últimos años. Confiemos en que los aspectos positivos de la norma permitan a ésta alcanzar sus metas con éxito y que una aplicación atinada y ponderada del Reglamento ayude a paliar sus déficits.
Briefs AEDTSS, 71, 2024
