Revista de Derecho Público: Teoría y Método
Vol. 12 | 2025 pp. 85-117
Madrid, 2025
DOI: 10.37417/RPD/vol_12_2025_3052
Marcial Pons Ediciones Jurídicas y Sociales
© Jesús A. Tahirí Moreno
ISSN: 2695-7191
Recibido: 28/03/2025 | Aceptado: 30/06/2025
LA ACTUACIÓN ADMINISTRATIVA ALGORÍTMICA: UNA PROPUESTA DOCTRINAL DESDE LA DOGMÁTICA DE LA ACCIÓN ADMINISTRATIVA Y LA TEORÍA GENERAL DE LOS ACTOS*
ALGORITHMIC ADMINISTRATIVE ACTION: A DOCTRINAL PROPOSAL BASED ON THE DOGMATICS OF ADMINISTRATIVE ACTION AND THE GENERAL THEORY OF ACTS
Jesús A. Tahirí Moreno
Contratado predoctoral de Derecho Administrativo
Universidad de Zaragoza
RESUMEN: el presente trabajo tiene por objeto el análisis de la naturaleza jurídica de la actuación administrativa algorítmica desde la óptica de la dogmática de la acción administrativa y la teoría general de los actos. Partiendo de un enfoque metodológico analítico apoyado en razonamientos lógico-inductivos y lógico-deductivos, se aborda en primer lugar la relevancia jurídica y el impacto de las decisiones algorítmicas en la actividad formal e informal de la Administración, proponiéndose su calificación como actos administrativos que deben formar parte del expediente a los efectos de su fiscalización. En segundo lugar, se examina el nuevo derecho a una explicación del artículo 86 RIA y su conexión con el artículo 22 RGPD, así como la incidencia de ambos preceptos en la actuación administrativa algorítmica. El estudio evidencia la necesidad de reformular y actualizar el concepto vigente de actuación administrativa automatizada, a fin de adecuarlo a una realidad tecnológica que ha dejado obsoleta la noción de Administración electrónica. Asimismo, se pone de manifiesto la necesidad de superar en algunos aspectos la dogmática jurídico-administrativa tradicional para dar cabida a las nuevas formas de relación entre la Administración y los ciudadanos.
PALABRAS CLAVE: decisiones automatizadas, actuación administrativa automatizada, actos administrativos, actuación administrativa algorítmica.
ABSTRACT: the purpose of this paper is to analyse the legal nature of algorithmic administrative action from the perspective of administrative action dogma and general theory of acts. Using an analytical methodological approach based on logical-inductive and logical-deductive reasoning, it first addresses the legal relevance and impact of algorithmic decisions on the formal and informal activities of the Administration, proposing that they be classified as administrative acts that must form part of the file for the purposes of their control. Secondly, it examines the new right to an explanation in Article 86 RIA and its connection with Article 22 GDPR, as well as the effect of both provisions on algorithmic administrative action. The study highlights the need to reformulate and update the current concept of automated administrative action in order to adapt it to a technological reality that has rendered the notion of electronic administration obsolete. It also highlights the need to overcome certain aspects of traditional legal and administrative dogma in order to accommodate new forms of relationship between the administration and citizens.
KEYWORDS: automated decision-making, automated administrative action, administrative acts, algorithmic administrative action.
SUMARIO: 1. CONSIDERACIONES INTRODUCTORIAS. 1.1. Metodología, estructura y objetivos de la investigación. 1.2. Precisiones conceptuales y terminológicas.— 2. LA NATURALEZA JURÍDICA DE LA ACTUACIÓN ADMINISTRATIVA ALGORÍTMICA: 2.1. La acción administrativa en el marco del procedimiento: la calificación jurídica de las actuaciones algorítmicas como actos de trámite o definitivos en función de su finalidad y contenido; 2.2. La actuación administrativa algorítmica informal: la problemática derivada del déficit de controles a las actuaciones ejecutadas en la fase previa a la iniciación del procedimiento; 2.3. Vías de control de las decisiones algorítmicas. 2.3.1. El control de las actuaciones algorítmicas informales que puedan afectar desfavorablemente al interesado o vulnerar derechos fundamentales; 2.3.2. El control de las actuaciones algorítmicas que constituyan actos de trámite: su necesaria incorporación a la resolución que finaliza el procedimiento; 2.3.3. El control de las decisiones algorítmicas que constituyen actos definitivos o resolutorios.— 3. LOS PRINCIPALES VICIOS QUE PUEDEN AFECTAR A LA VALIDEZ DE LA ACTUACIÓN ADMINISTRATIVA ALGORÍTMICA: 3.1. Ausencia o insuficiencia de motivación: 3.2. La omisión del trámite de audiencia y su impacto en el derecho a una buena administración; 3.3. La vulneración del principio de juridicidad: una crítica a la sustitución del imperio de la ley por la dictadura del algoritmo.— 4. UNA REVISIÓN CRÍTICA DEL NUEVO DERECHO A UNA EXPLICACIÓN DEL REGLAMENTO EUROPEO DE INTELIGENCIA ARTIFICIAL Y SU IMPACTO EN LA ACTUACIÓN ADMINISTRATIVA ALGORÍTMICA: 4.1. El problema de la falta de efectividad del derecho a una explicación en la Administración Pública, 4.2. El derecho a no ser objeto de decisiones automatizadas del artículo 22 RGPD y su distinción respecto del derecho a una explicación del RIA, 4.3. Conclusión: la necesaria regulación de un derecho específico a la explicación de las decisiones algorítmicas en la ley de procedimiento administrativo común.— 5. REFLEXIONES FINALES: UNA LLAMADA A LA NECESARIA ADECUACIÓN Y REEQUILIBRIO DE LOS PODERES EXORBITANTES DE LA ADMINISTRACIÓN.— 6. REFERENCIAS BIBLIOGRÁFICAS.
Es un hecho notorio que la Administración se enfrenta a cambios significativos cuyas consecuencias afectan a varios de sus elementos estructurales. Para suerte de algunos y desdicha de otros, nos han tocado vivir tiempos de cambio y transición. Catárticos diría yo. Algunos los afrontan con miedo, alarmismo y un exceso de conservadurismo tendente a mantener la anquilosada arquitectura de nuestra Administración tal y como está. Otros, imbuidos de un espíritu progresista, reciben los cambios que nos han sumergido en la Cuarta Revolución Industrial (aunque ya se empieza a comentar en algunos foros que nos encontramos en los albores de la quinta) con ilusión, confianza, y plenamente convencidos de las ventajas que las ya no tan nuevas tecnologías reportan a la ciudadanía.
Personalmente, apuesto por una tercera vía que denominaré reformista, en cuya virtud defiendo la transformación de la Administración como un paso necesario e inevitable. Ahora bien, conservando todo aquello que sea digno de conservar. En este sentido, las garantías del ciudadano frente a la Administración son un pilar fundamental del Estado de Derecho en toda sociedad que se precie democrática. Constituyen, en mi opinión, una victoria de la ciudadanía frente al poder que no debemos descuidar. Debemos, pues, preservarlas, y, en la medida en que sea necesario, actualizarlas y perfeccionarlas.
Es en este contexto de transición hacia una Administración 4.0 en el que se inserta el artículo científico. El objetivo del estudio es aportar algunos elementos que contribuyan a la necesaria construcción de una teoría de las decisiones administrativas algorítmicas, partiendo de una perspectiva dogmática que ponga el foco en la acción administrativa. Para cumplir el cometido, en el apartado II se analizará la naturaleza de la actuación administrativa algorítmica, diferenciando entre los actos dictados en el marco del procedimiento de las actuaciones ad extra que carecen de moldes procedimentales a los que ajustarse. Asimismo, también se expondrán los mecanismos de control de esta especial categoría de decisiones, cuestión esta última que dista de estar clara y en la que existen lagunas normativas que considero sustanciales.
Una vez delimitada su naturaleza jurídica, en el apartado III se abordará un asunto de capital relevancia en términos dogmáticos: los vicios de invalidez que pueden afectar a las actuaciones algorítmicas. El análisis se centra, pues, en los presupuestos de validez de los resultados arrojados por dichos sistemas, dejando a un lado el examen de los requisitos de los programas informáticos. Son las decisiones algorítmicas, y no la herramienta aisladamente considerada (simple instrumento), las que en última instancia pueden producir efectos (directos o indirectos) en la situación jurídica de los interesados.
Finalmente, se examinará el nuevo derecho a una explicación reconocido por el Reglamento europeo de Inteligencia Artificial 1 en su art. 86 (en adelante, RIA) 2. Este derecho (que en su vertiente jurídico-pública constituye una manifestación del deber de motivación) será de plena aplicación a las Administraciones Públicas que adopten decisiones basándose en los resultados de salida de un sistema de IA, siempre que se den una serie de requisitos. No obstante, debo adelantar que su impacto en la actuación administrativa, al menos de momento, será mínimo. Más atención merece a mi juicio el art. 22 del Reglamento General de Protección de Datos (RGPD) 3, por lo que se llevará a cabo un análisis conjunto de ambos preceptos, habida cuenta de su complementariedad. Todo ello con la finalidad de identificar lagunas y proponer reformas que se adecúen a las especificidades de la Administración Pública.
Respecto de la metodología utilizada, la investigación adopta un enfoque analítico, apoyado en razonamientos lógico-deductivos y lógico-inductivos. En particular, en el trabajo se lleva a cabo un análisis de la actuación administrativa algorítmica a la luz de la teoría general de los actos y de la acción administrativa. Con el objetivo de justificar la necesidad del concepto propuesto y replantear algunas de las categorías dogmáticas existentes, se toman como referencia dos casos concretos en los que la Administración utiliza herramientas algorítmicas y para los que ni el ordenamiento jurídico actual ni la dogmática jurídico-administrativa tradicional ofrecen una respuesta adecuada a los problemas planteados. Por lo que se refiere al material de trabajo, los recursos utilizados han sido principalmente la doctrina académica general y especializada. Las referencias al marco normativo vigente son escasas y se limitan únicamente a poner de relieve los defectos derivados de las lagunas teóricas existentes.
Expuesta la metodología, la estructura y los objetivos del estudio, conviene clarificar el marco conceptual y terminológico relativo a la actuación administrativa algorítmica. En primer término, debe quedar claro que en este concepto se incluyen tanto las actuaciones realizadas con la asistencia de inteligencia artificial en sentido estricto, como aquellas otras actuaciones que, si bien no emplean técnicas de inteligencia artificial, sí operan de forma automatizada o semiautomatizada y pueden servir de soporte o fundamento para la toma de decisiones.
Se parte, pues, de una concepción amplia y renovada del concepto actuación administrativa automatizada, donde esta constituye el género y el uso de sistemas de IA representa la especie (TAHIRÍ MORENO, 2024: 145). Partir de un concepto amplio permite superar los debates (interesantes a fin de determinar la norma aplicable, pero realmente fútiles en el plano dogmático) en torno a si nos encontramos ante un sistema de IA o no, evitándose de este modo el desarrollo de un marco normativo disperso y diferenciado en función del tipo de tecnología que emplee la Administración 4.
Lo sustancial, a mi juicio, es la capacidad de la herramienta algorítmica para orientar la actuación administrativa y producir efectos jurídicos (ya sea directa o indirectamente) en la esfera personal o patrimonial del interesado, no la técnica utilizada (v.g., inteligencia artificial, tratamiento y análisis masivo de datos, análisis de redes o grafos, etcétera) 5. El concepto de actuación administrativa algorítmica que se propone trasciende, pues, el concepto de actuación administrativa automatizada 6, tratando con ello de dar una respuesta global y actualizada a las problemáticas derivadas del uso de sistemas algorítmicos.
En segundo término, conviene tener presente que, a nivel europeo, el concepto de sistema de IA ha quedado restringido a los sistemas autónomos que puedan presentar capacidad de adaptación tras el despliegue [art. 3, cardinal 1) y considerando 12 RIA] 7.
Corolario de lo anterior es que un gran número de sistemas de IA en sentido técnico podrían permanecer extramuros del ámbito de aplicación del RIA. Esta interpretación restrictiva, unida a las escasas garantías que ofrece el concepto normativo de actuación administrativa automatizada, es otro de los argumentos que, en mi opinión, justifican la necesidad de reformular doctrinalmente esta categoría.
Finalmente, es necesario advertir que en este estudio se utilizará el término “decisión” para hacer referencia a cualquier tipo de resultado generado por un sistema algorítmico que influya, oriente o fundamente tanto la actuación administrativa informal como el contenido de un acto administrativo. Opere o no con inteligencia artificial y constituya o no un acto decisorio desde la perspectiva procedimental. En este sentido, se parte de un concepto amplio de decisión que abarca también las decisiones individuales automatizadas que, pese a no producir efectos jurídicos directos, sí pueden influir de manera determinante en la situación jurídica del interesado. Se acoge, por consiguiente, la interpretación que del art. 22 del RGPD ha realizado recientemente el Tribunal de Justicia de la Unión Europea (STJUE de 7 de diciembre de 2023, asunto C-634/21, ECLI:EU:C:2023:957) 8.
Uno de los principales problemas que plantea a nivel dogmático el uso de sistemas algorítmicos en la Administración gira en torno a la determinación de la naturaleza jurídica de la información que proporcionan y de las actuaciones posteriores que se acometen con fundamento o por influjo de esta. A fin de arrojar algo de luz sobre este asunto, resulta de enorme interés analizar: (i) en el ámbito formal, si nos encontramos ante actos administrativos y, en caso afirmativo, ante qué categoría de actos; (ii) si en el ámbito de la actuación administrativa informal o en la fase previa a la iniciación del procedimiento las decisiones algorítmicas que influyan en actos posteriores pueden ser objeto de control; y (iii) ante posibles vulneraciones, qué tipos de controles existen frente a esta especial categoría de decisiones 9.
Cuando la acción administrativa tiene lugar una vez iniciado el procedimiento administrativo, para calificar correctamente la decisión algorítmica en cuestión debemos tener en cuenta tanto su contenido como los efectos que produce sobre la situación jurídica del destinatario de dicha actuación. En este sentido, resulta de interés traer a colación el procedimiento para la concesión del bono social regulado en el Real Decreto 897/2017, de 6 de octubre, por el que se regula la figura del consumidor vulnerable, el bono social y otras medidas de protección para los consumidores domésticos de energía eléctrica y en la Orden ETU/943/2017, de 6 de octubre, por la que se desarrolla el Real Decreto 897/2017, de 6 de octubre, por el que se regula la figura del consumidor vulnerable, el bono social y otras medidas de protección para los consumidores domésticos de energía eléctrica.
La razón de utilizar este procedimiento y no otro viene determinada por el interés que suscita el hecho de que la Sentencia nº 143/2021 del Juzgado Central de lo Contencioso nº 8 10 reconoce en su Fundamento Jurídico Tercero la naturaleza de acto administrativo dictado por el Ministerio para la Transición Ecológica y el Reto Demográfico (MITECO) al resultado arrojado por la aplicación informática BOSCO. Además, la sentencia atribuye, como no puede ser de otro modo, la responsabilidad de la decisión al órgano administrativo (MITECO), no a la comercializadora de referencia, pudiendo impugnar el interesado el acto tanto en vía administrativa como judicial. Ergo, de lo expuesto se infiere sin dificultades que las actuaciones algorítmicas que pongan fin al procedimiento constituyen formal y materialmente resoluciones administrativas. Siendo este un razonamiento de Perogrullo, lo cierto es que la normativa que regula el procedimiento administrativo para la concesión del bono social no parece llegar a la misma conclusión.
En primer lugar, son las comercializadoras de referencia (empresas privadas que operan en el mercado regulado de luz y gas) quienes gestionan la aplicación que emite lo que material y formalmente son actos administrativos resolutorios, en la medida en que deciden si un ciudadano puede ser beneficiario o no de una ayuda pública y ponen fin al procedimiento. Esta delegación de potestades públicas en favor de sujetos privados tiene un difícil encaje legal (ex art. 9.2 EBEP) 11 y solo se justifica por el hecho de que el Poder Ejecutivo no considera el resultado dado por el programa informático BOSCO una auténtica resolución dictada en el ejercicio de una potestad pública.
En segundo lugar, conviene resaltar que la normativa que regula el procedimiento tampoco prevé un trámite de audiencia en el supuesto de que la decisión automatizada sea desfavorable. No se permite, pues, al interesado, alegar los motivos que a su derecho convengan para acreditar que cumple con los requisitos para obtener la ayuda. Esto es especialmente grave, máxime teniendo en cuenta que los potenciales beneficiarios pertenecen a colectivos vulnerables y en riesgo de exclusión social 12.
Finalmente, tampoco se prevé un recurso contra el acto administrativo que deniega el derecho al bono social. Así, tanto el Real Decreto como la Orden Ministerial se limitan a remitir a la normativa de consumidores en caso de discrepancias. En otras palabras, en lugar de un recurso administrativo ante el órgano que dictó el acto que se impugna o, si el acto no pone fin a la vía administrativa, ante su superior jerárquico, lo que se dispone es una reclamación ante los servicios de consumo. Esto es algo que choca frontalmente contra principios básicos de la dogmática jurídico-administrativa y con lo previsto en las leyes de procedimiento administrativo.
¿Cómo es posible que una decisión que formal y materialmente constituye un acto resolutorio no pueda ser impugnada ante el órgano administrativo competente? Es al MITECO, y no a los servicios de consumo, a quien corresponde resolver la conformidad a Derecho del acto resolutorio impugnado. Al tratarse de un acto que pone fin al procedimiento, lo procedente es que el interesado pueda formular un recurso administrativo contra la decisión desfavorable (la denegación de la ayuda estatal), o, en su caso, un recurso contencioso-administrativo ante el órgano judicial competente.
Este proceder por parte del Poder Ejecutivo evidencia con nitidez la necesidad de clarificar la naturaleza jurídico-administrativa de las decisiones algorítmicas. Toda actuación de la Administración llevada a cabo en el marco de un procedimiento es un acto administrativo. Y ello con independencia de los medios que se utilicen para dictar el acto. Ahora bien, no todas las actuaciones algorítmicas pueden ser calificadas de la misma forma. Así, en algunas ocasiones constituirán simples actos de trámite (solo impugnables en el supuesto de que sean actos de trámite cualificados 13) mientras que en otras gozarán de la naturaleza de resoluciones administrativas.
En conclusión, considero esencial adquirir conciencia sobre la relevancia jurídica de los resultados que arrojan los programas informáticos utilizados por la Administración y sus efectos sobre el ciudadano. Más importante que los sistemas algorítmicos aisladamente considerados son los actos derivados de su uso los que deberían ocupar nuestra atención. La teoría general de los actos administrativos nos permite dar respuestas a las nuevas formas de actuación de la Administración. No está de más recordar que toda actuación algorítmica es un acto administrativo, en la medida en que contenga una declaración de juicio, de voluntad, de conocimiento o de deseo dictada por la Administración en el ejercicio de una potestad administrativa (con excepción de la reglamentaria), siguiendo la clásica definición de ZANOBINI 14 conocida por todos y ampliamente seguida entre nosotros 15.
Esta interpretación tiene consecuencias importantes, pues comporta que todo acto algorítmico (ya sean decisiones, recomendaciones, o cualquier tipo de información que contribuya a la decisión final) debería, en mi opinión, formar parte del expediente administrativo.
Otra de las cuestiones a las que la dogmática administrativa debe dar respuesta es a los riesgos que plantea el uso de sistemas algorítmicos en el ámbito de la actuación informal de la Administración 16. Huelga decir que la acción administrativa no se agota con la producción de actos administrativos. Existen, pues, múltiples dimensiones en las que la actividad administrativa se ejerce sin necesidad de acudir a esta institución (v.g., la actividad de inspección o de control).
Pese a que dichas actuaciones no están sujetas a un procedimiento formalizado ni pueden ser aprehendidas desde la teoría clásica de los actos administrativos, ello no significa en modo alguno que dicha actividad sea indiferente para el Derecho. En el caso que nos ocupa, podemos definir la actuación administrativa algorítmica informal como las actuaciones realizadas al margen de un procedimiento administrativo mediante la utilización o con el apoyo de sistemas algorítmicos que influyan o puedan influir directa o indirectamente en el ejercicio de potestades públicas.
El máximo exponente de este tipo de actuaciones lo encontramos en la Administración tributaria, donde la inspección cuenta con herramientas algorítmicas muy potentes para planificar y ejercer sus funciones de control. Así, un caso paradigmático de actuación algorítmica automatizada en el ejercicio de actividades inspectoras es el uso del programa HERMES, un sistema que emplea la minería de datos para elaborar perfiles y categorizar a los contribuyentes en función del riesgo defraudatorio. Gracias a esta herramienta, la Administración selecciona de forma rápida y eficaz a los contribuyentes que serán objeto de un procedimiento de inspección o de comprobación.
Aunque desde la perspectiva dogmática acciones como esta encajan a la perfección dentro del concepto de actividad informal de la Administración, lo cierto es que desde el punto de vista legal esta clase de actuaciones no se consideran actividad administrativa automatizada. Así, dispone el art. 41.1. de la LRJSP que “Se entiende por actuación administrativa automatizada, cualquier acto o actuación realizada íntegramente a través de medios electrónicos por una Administración Pública en el marco de un procedimiento administrativo y en la que no haya intervenido de forma directa un empleado público” 17.
El concepto establecido por el poder legislativo excluye de plano todo acto o actuación que no se realice en el marco de un procedimiento, lo que implica dejar fuera buena parte de las actuaciones algorítmicas automatizadas. Asimismo, de la definición se infiere que, en la medida en que intervenga de forma directa un empleado público, tampoco estaremos ante una actuación administrativa automatizada 18. Se parte, pues, de un concepto sumamente restrictivo cuya consecuencia directa se traduce en un déficit de garantías y controles a la utilización de un amplio número de sistemas algorítmicos, dado que, al no subsumirse en el concepto legal de actuación administrativa automatizada, no están obligados a cumplir los requisitos del art. 41.2 LRJSP.
A tenor de lo expuesto, una de las soluciones que podrían llevarse a cabo con el objetivo de dotar de mayores garantías a la ciudadanía frente al uso de sistemas algorítmicos por la Administración pasa por ampliar el concepto de actuación administrativa automatizada. Solo a través de la extensión de los contornos de este concepto puede asegurarse que las actuaciones algorítmicas llevadas a cabo al margen del procedimiento se realizan con pleno respeto a los derechos fundamentales. No es necesario recordar que el respeto a la Constitución y al resto del ordenamiento jurídico (ex art. 9.1 CE) opera también en la fase previa a la iniciación de un procedimiento y con independencia del grado de formalidad de la actuación. Tampoco que los principios generales del derecho constituyen un límite y una garantía que modula y orienta, no solo la actividad formal de la Administración, sino también la informal o material 19.
Así, ¿puede considerarse conforme a Derecho la decisión de incoar un procedimiento de inspección o sancionador como consecuencia de los resultados generados por un sistema algorítmico opaco que opera con técnicas discriminatorias? 20 Quizás en otros tiempos el motivo que impulsaba al funcionario a tomar la decisión era inexpugnable, cuando no imposible de fiscalizar. Constituía una decisión meramente subjetiva que obedecía a criterios de oportunidad 21. Empero, ahora sí podemos conocer la lógica que subyace a un sistema algorítmico en el proceso de toma de decisiones y los datos que emplea el programa informático para, por ejemplo, seleccionar a un contribuyente y no a otro. En otras palabras, cuando la Administración utiliza un sistema algorítmico, podemos objetivar y fiscalizar las razones que han llevado al sistema a arrojar un resultado concreto 22.
Por consiguiente, cuando la decisión del funcionario se fundamenta o tiene su origen en los resultados dados por una herramienta cuya finalidad es valorar o constatar las circunstancias fácticas que lleven aparejada una consecuencia jurídica, esa información tiene que formar parte del futuro expediente administrativo. La utilización de estos programas no puede ser concebida, a mi parecer, como un simple elemento auxiliar o instrumental. Antes bien, resulta imprescindible que los interesados conozcan cómo y por qué se ha tomado la decisión de, por ejemplo, iniciar un expediente sancionador contra ellos.
Contra este razonamiento se puede alegar que los motivos que impulsan a tomar la decisión de incoar un procedimiento sancionador o inspector no determinan per se la comisión de una infracción administrativa. Que lo realmente importante es que se respeten las garantías desde la iniciación a la finalización del procedimiento que trae su causa de esa decisión. O, como arguye el profesor HUERGO LORA, “inspeccionar no es sancionar”, por lo que lo peor que le puede ocurrir al ciudadano es que se le inspeccione sin haber cometido una infracción (2023: 8) 23.
No comparto los razonamientos de esta índole, ya que tan importante es asegurar el respeto a las garantías en la fase del procedimiento sensu stricto como en su fase previa. ¿O acaso la vigencia de los derechos fundamentales se suspende durante las actuaciones inspectoras previas? 24 ¿Es jurídicamente admisible inspeccionar o sancionar a un ciudadano cuando ha sido previamente seleccionado con base en criterios probabilísticos potencialmente discriminatorios? 25 No podemos ventilar el asunto razonando que, en última instancia, es el juicio humano el que prevalece y que la máquina solo aporta elementos auxiliares o instrumentales. O afirmando como un dogma insoslayable que las actuaciones previas no se dirigen contra una persona concreta y que carecen de efectos jurídicos.
Tampoco, por supuesto, prohibiendo el uso de estas herramientas o imponiendo un principio de transparencia absoluta que impida a la Administración ejercer sus potestades de forma eficaz, colocando así al administrado en una mejor posición para eludir el cumplimiento de las normas, en lo que se ha denominado el juego del algoritmo (BAMBAUER y ZARSKY, 2018). Lo que sí sería adecuado y respetuoso con los derechos fundamentales y las garantías del administrado es dotar a las decisiones algorítmicas que formen parte de la actividad informal de la Administración de valor jurídico. En la medida en que pueden influir en la toma de decisiones posteriores, las actuaciones algorítmicas previas al procedimiento deben obrar, en su caso, en el futuro expediente. Solo de este modo estaremos en disposición de verificar que la actuación administrativa se halla sometida a la ley y al Derecho. No podemos obviar que se trata de información que afecta al interesado, y ello con independencia de que finalmente sea objeto o no de una decisión desfavorable 26.
La transformación de los métodos y las formas en que la Administración Pública actúa y se relaciona con el ciudadano requiere de respuestas dirigidas a reequilibrar sus poderes exorbitantes. El incremento de la eficacia y la eficiencia en la satisfacción de los intereses generales gracias al uso de herramientas algorítmicas es indudable. Ahora bien, el fin (la prosecución del interés general) no habilita a la Administración a utilizar cualquier medio. Existen determinados ámbitos de actuación en los que si se quieren emplear sistemas algorítmicos, debe hacerse reforzando la transparencia y las garantías de los interesados que puedan verse significativamente afectados como consecuencia de su uso. Respetando el principio de proporcionalidad y eliminando todo atisbo de arbitrariedad en la acción administrativa. Antes no podíamos escrutar el fuero interno del funcionario para saber por qué optaba por una opción y no por otra. Quizás si hubiéramos gozado de esa capacidad, muchos procedimientos habrían sido anulados por incurrir en vicios de nulidad radical.
En definitiva, las actuaciones algorítmicas extra procedimentales no pueden permanecer al margen del Derecho administrativo. Su relevancia jurídica es incuestionable, dados los efectos que pueden producir en la esfera del interesado y su potencial discriminatorio. Para paliar el déficit de garantías existentes, sería adecuada una ampliación de las lindes del concepto actuación administrativa automatizada del art. 41 LRJSP. En primer lugar, incluyendo a las actuaciones que se lleven a cabo fuera del marco de un procedimiento 27. En segundo lugar, interpretando la expresión “en la que no haya intervenido de forma directa un empleado público” (art. 41.1. in fine) en el sentido de que el empleado público no haya influido en modo alguno en el funcionamiento del sistema algorítmico. La simple validación del resultado con la firma del empleado público no puede ser entendida como una forma de intervención humana.
La actualización y adaptación del art. 41 LRJSP a la realidad de la Administración constituye una necesidad imperiosa, pues muchas de las herramientas en poder de la Administración han dejado desfasado el concepto “Administración electrónica”. Aquí no nos referimos a las decisiones automatizadas que se limitan a dar fe de una situación concreta, como pudiera ser un informe de situación actual del trabajador en la Seguridad Social 28. Tampoco a los supuestos en que la sustitución del ser humano por la máquina se reduce a tareas meramente auxiliares. De lo que se trata es de dar una adecuada cobertura normativa al uso de herramientas analíticas e inteligentes que sirven para impulsar y orientar actuaciones que despliegan efectos jurídicos de indudable relevancia sobre el ciudadano. Y ello con independencia de su capacidad de aprendizaje, de su grado de autonomía o, en definitiva, de que el programa informático utilice o no IA en sentido estricto 29.
Por lo que se refiere a los mecanismos de control, en el ámbito de la actividad administrativa algorítmica debemos diferenciar de nuevo entre la actuación extra procedimental o informal y la intra procedimental o formal. En el primer caso, la posición que aquí se sostiene exige que todo resultado emitido por un sistema algorítmico que dé lugar a la iniciación de un procedimiento que pueda producir efectos desfavorables en la esfera del interesado forme parte del futuro expediente administrativo. En virtud de esta tesis, lo impugnable seguiría siendo el acto resolutorio que pusiera fin al procedimiento. Ahora bien, la incorporación al expediente de los antecedentes que dieron lugar a la incoación permitirá controlar la adecuación a Derecho de toda la actuación en vía administrativa y jurisdiccional.
De este modo, se pone coto a la imposibilidad de fiscalizar una actuación informal que, pese a no producir efectos jurídicos directos ni ser vinculante, puede influir de forma determinante en la conducta y el juicio del empleado público. Aquí conviene insistir en que el empleado público que desempeña una actividad informal no goza de una patente de corso en cuya virtud pueda vulnerar principios generales del derecho o derechos fundamentales so pretexto de la eficacia y la eficiencia en el ejercicio de sus funciones.
La tesis propuesta nos permite realizar un control que va más allá del procedimiento o de los elementos objetivos y subjetivos de la resolución objeto de impugnación. Es decir, trasciende el puro control formal de la actuación administrativa para situarse en una posición en la que se analiza todo el iter procedimental, entendido este en sentido lato. A saber, no constreñido a la pura y simple concatenación de actos administrativos que finaliza con una resolución. Así pues, el interesado que considere que el acto desfavorable impugnado tuvo su origen en una actuación algorítmica que pudiera considerarse contraria a Derecho, podrá atacar dicho acto impugnando los posibles vicios que pudieran haber surgido en la fase previa a la iniciación del procedimiento.
Esta propuesta cobra especial relevancia y adquiere sentido en la medida en que, como apuntaba anteriormente, es posible objetivar los resultados del sistema algorítmico empleado en la actuación administrativa informal. Me parece importante insistir en que no nos encontramos ante herramientas de carácter puramente instrumental o auxiliar, sino ante máquinas que valoran presupuestos fácticos y orientan e influyen, en mayor o menor grado, en la toma de decisiones administrativas.
Siguiendo con el ejemplo de la actividad inspectora a la que hacía referencia supra, el contribuyente que ha sido seleccionado por mor de la utilización de una herramienta algorítmica tendría derecho a conocer: i) cuáles han sido los datos empleados para llegar a la conclusión de que debe ser investigado 30; ii) cuál ha sido el proceso lógico realizado por la máquina para la toma de la decisión algorítmica y, si esto no es técnicamente posible, las especificaciones técnicas del algoritmo empleado por el sistema; y iii) en qué medida ha influido el resultado de la máquina en la iniciación de las actuaciones inspectoras.
Con este proceder se asegura la fiscalización de la actuación administrativa de principio a fin. Hace cuarenta años era técnicamente imposible controlar el proceso de toma de decisiones en las actuaciones previas a un procedimiento. Pero eso ha cambiado, por cuanto el uso de tecnologías como la inteligencia artificial o la minería de datos para la toma de decisiones hacen posible el escrutinio de la actividad informal o material de la Administración.
Desgraciadamente, la realidad es muy distinta en el ámbito de las actuaciones inspectoras. Ámbito este en el que impera la opacidad y donde la eficacia en la persecución de potenciales defraudadores o infractores prevalece sobre el respeto a los derechos fundamentales 31. Tan es así que el propio Real Decreto 1065/2007, de 27 de julio 32, introduce en el apartado 7 de su art. 170 un principio de opacidad absoluta al disponer que “…los medios informáticos de tratamiento de información y los demás sistemas de selección de los obligados tributarios que vayan a ser objeto de actuaciones inspectoras tendrán carácter reservado, no serán objeto de publicidad o de comunicación ni se pondrán de manifiesto a los obligados tributarios ni a órganos ajenos a la aplicación de los tributos” 33.
En términos dogmáticos, en este supuesto la solución es más sencilla. Así, ya vimos en el apartado II que las decisiones algorítmicas pueden ser actos resolutorios que ponen fin al procedimiento o simples actos de trámite. También se ha comprobado cómo, conforme a la teoría general de los actos administrativos, la naturaleza de las decisiones algorítmicas puede diferir en función de su finalidad. En la mayoría de los supuestos de uso de sistemas algorítmicos utilizados en el marco de un procedimiento, las decisiones algorítmicas arrojadas por estos constituirán declaraciones de juicio o de conocimiento. Por consiguiente, en la medida en que dichos actos de trámite contribuyen a reforzar la fundamentación e influyen en el sentido de la resolución, su inclusión en la misma deviene imperativo.
A los administrativistas no nos es ajena la técnica de la motivación in aliunde o por referencia a informes y dictámenes, desarrollada jurisprudencialmente y reconocida en el art. 88.6 de la Ley 39/2015, de 1 de octubre, del Procedimiento Administrativo Común de las Administraciones Públicas (LPAC). Considero que esta figura podría dar respuestas a alguna de las problemáticas que plantea el uso de sistemas algorítmicos en la Administración. Así, el hecho de incorporar a la resolución un informe completo del análisis funcional de la máquina, junto a los datos empleados y el proceso de toma de decisión permitirían: i) cumplir con el requisito de motivación cuando así lo exija la ley; y ii) garantizar que el ciudadano pueda conocer todas las razones que fundamentan la decisión a efectos de su posible impugnación.
De ahí la importancia que entraña la inclusión en el expediente administrativo de las actuaciones algorítmicas que, en su caso, se acometan en el marco del procedimiento. En mi opinión, sería una solución que permitiría superar uno de los principales vicios que puede hacer inviable el uso de determinados sistemas algorítmicos en la Administración: la ausencia o insuficiencia de motivación. Claro está, siempre que ello sea técnicamente posible. En caso de no serlo, la única solución es no usar este tipo de sistemas cuando ello pueda afectar desfavorablemente a los interesados.
En definitiva, la Administración tiene que avanzar hacia un modelo basado en la adquisición y el uso obligatorio de sistemas algorítmicos transparentes o de “caja blanca” que faciliten la fiscalización de los resultados que arrojan 34. Estos sistemas operan con técnicas de aprendizaje automático y, a diferencia de los modelos de “caja negra”, nos permiten conocer el proceso de decisión seguido para llegar al resultado arrojado 35.
En este punto la solución es clara y no requiere de mayores explicaciones: contra las decisiones algorítmicas que pongan fin al procedimiento podrán interponerse los recursos administrativos y contenciosos que legalmente procedan. Volviendo al caso BOSCO, la reclamación ante los servicios de consumo, prevista en las disposiciones reglamentarias que regulan el procedimiento, vulnera manifiestamente la LPAC.
En este supuesto, en función de si el acto agota o no la vía administrativa, lo que procederá es el recurso de reposición o alzada frente al órgano administrativo que corresponda o, en su caso, recurso contencioso-administrativo. Como ya afirmó la sentencia de instancia y la de apelación, el resultado dado por la aplicación informática BOSCO es formal y materialmente un acto administrativo dictado por el MITECO que puede ser impugnado en vía administrativa y judicial. La aplicación informática tiene una mera función instrumental que no corta el vínculo existente entre el órgano administrativo competente y el acto administrativo que pone fin al procedimiento (la decisión algorítmica).
En síntesis, las problemáticas asociadas al uso del programa informático BOSCO representan un caso paradigmático que puede servirnos para tomar nota de cara a la articulación de futuros procedimientos en los que la resolución es dictada mediante un sistema algorítmico. A mi parecer, es perfectamente posible (y recomendable) el uso de esta clase de sistemas, especialmente cuando el contenido de la resolución sea consecuencia del ejercicio de potestades regladas. Sin embargo, ello debe hacerse con pleno respeto a los derechos del interesado en el procedimiento.
La motivación, tradicionalmente definida por la doctrina como uno de los elementos formales que deben cumplir determinados actos administrativos (aunque, en puridad, afecta principalmente al fondo o contenido material del acto 36), exige plasmar las razones fácticas y jurídicas que justifican el sentido de la decisión. Supone, por tanto, un requisito de forma, pero también de fondo.
En el ordenamiento jurídico-administrativo español el requisito de la motivación es obligatorio para los actos enumerados en el art. 35 LPAC. No obstante, conviene tener en cuenta la paulatina proyección general del Derecho de la Unión Europea más allá de sus propias lindes 37. Así, el grado de permeabilidad del derecho interno gracias a la labor jurisprudencial ha facilitado la recepción de valores y principios que, como el derecho a una buena administración, solo eran de aplicación a las instituciones comunitarias. Reflejo de la importancia de la motivación para el derecho europeo es que el Tratado de Funcionamiento de la Unión Europea impone este deber a todos los actos jurídicos dictados por sus instituciones (art. 296 TFUE).
Una de las razones que alega la doctrina para rechazar el uso de sistemas algorítmicos en determinados ámbitos de actuación es la imposibilidad o dificultad de cumplir con el deber de motivación (GAMERO CASADO, 2023: 17). Ciertamente, puede resultar complejo ejercer una potestad discrecional de forma automatizada sin justificar, en lógica jurídica y lenguaje natural, las razones de optar por un camino y no por otro a la hora de adoptar una decisión. No obstante, conviene advertir que esta desventaja no será un obstáculo insalvable por mucho tiempo, pues a medida que avance la tecnología y se facilite la explicabilidad de las decisiones será posible utilizar sistemas algorítmicos en el ejercicio de potestades discrecionales 38. Al menos como elemento de apoyo para la valoración de la concurrencia de presupuestos fácticos 39.
Ahora bien, con independencia de que la resolución haya sido dictada por un ser humano o una máquina, para el ciudadano de a pie lo esencial es que pueda conocer, en lenguaje natural, las razones fácticas y jurídicas que motivan la resolución. Mientras este requisito no se cumpla, la Administración deberá abstenerse de utilizar este tipo de tecnologías, pues todo acto carente de motivación dictado en el ejercicio de potestades discrecionales es un acto arbitrario.
Sensu contrario, si la tecnología empleada permite dar buena cuenta de los fundamentos de hecho y de Derecho que motivan la decisión, no existen razones, más allá de las filosóficas, éticas o morales 40, para no poner a disposición de la Administración estas herramientas. Bajo mi punto de vista, lo esencial es que se respete el deber de motivación, que exista un órgano administrativo responsable de la decisión y que el acto pueda ser, en su caso, impugnado. Qué herramienta se utilice para motivar el acto es secundario.
Por otra parte, no resulta descabellado afirmar que las resoluciones administrativas basadas en la técnica del “copia y pega” que utilizan fórmulas estandarizadas para ventilar los procedimientos son un mal endémico muy común en la Administración que bien valdría sustituir por un sistema automatizado. En mi humilde opinión, el ideal de resolución inmaculada dictada por un funcionario que tiene en cuenta, gracias a su virtuosa empatía, todas y cada una de las circunstancias referentes al expediente, no deja de ser eso, un noble ideal ajeno a la realidad de las cosas.
Mención aparte merece el uso de herramientas algorítmicas para el ejercicio de potestades regladas. Aquí, al no existir conceptos jurídicos indeterminados o discrecionalidad, el uso de los sistemas se limita a verificar el cumplimiento de los requisitos exigidos por la norma jurídica. La explicabilidad, pues, es más sencilla, pero no por ello menos importante a los efectos de entender cumplido el deber de motivación.
El trámite de audiencia constituye en España un derecho de naturaleza constitucional en virtud del mandato al legislador contenido en el art. 105. c) de la Constitución Española 41. En desarrollo de este precepto, el art. 82 LPAC regula las condiciones de este derecho de carácter procedimental que comporta la puesta en conocimiento del expediente y la apertura de un plazo de alegaciones para que los interesados aduzcan lo que a su derecho consideren.
En el ámbito que nos ocupa, la automatización total o parcial del procedimiento administrativo no puede implicar, a mi juicio, la supresión del trámite de audiencia cuando el acto sea desfavorable. En la actualidad existen procedimientos automatizados total o parcialmente que no contemplan dicho trámite esencial. De nuevo, me parece interesante traer a colación la aplicación BOSCO como arquetipo de los posibles vicios en que puede incurrir una decisión algorítmica que ponga fin al procedimiento.
Así, en aquellos supuestos en que el MITECO, a través del programa BOSCO, deniega la concesión de la ayuda social, lo hace prescindiendo del trámite de audiencia. Al tratarse de un acto desfavorable que afecta a derechos subjetivos del interesado, lo conveniente sería calificar la decisión algorítmica como un acto de trámite, dando audiencia al interesado para que realice las alegaciones que estime oportunas a la propuesta de resolución. La situación actual, en la que el resultado del programa BOSCO constituye una resolución desfavorable contra la que solo puede formularse una “reclamación” ante los servicios de consumo, vulnera los derechos de participación del interesado en el procedimiento.
Por añadidura, no puede obviarse una cuestión fundamental desde la perspectiva de la dogmática de la acción administrativa: la omisión del trámite de audiencia ante una medida que limite o afecte negativamente a los derechos subjetivos del interesado supone un acto de mala administración inadmisible en un Estado de Derecho, aun cuando conforme a parámetros de legalidad la Administración pueda prescindir del mismo 42. La importancia de la buena administración en el Derecho de la Unión Europea se pone de manifiesto mediante su elevación a la categoría de derecho fundamental en el art. 41 de la Carta de Derechos Fundamentales de la Unión Europea (CDFUE) 43.
Como acertadamente sostiene el profesor MIR PUIGPELAT, en el supuesto de toma de decisiones automatizadas en ejecución del Derecho de la Unión, las garantías procedimentales derivadas de este principio se erigen como un deber a tener en cuenta tanto por la Unión como por los Estados miembros (2023: 689). Pero este deber no surge únicamente cuando se ejecute el Derecho de la Unión, pues tanto el poder legislativo como el ejecutivo estatal y autonómico deben tener en consideración que la operatividad de este derecho-deber ha permeado en todo el ordenamiento jurídico-administrativo español. En otras palabras, el derecho a una buena administración cuenta con una proyección general.
Así, en el plano del derecho interno la jurisprudencia de la Sala Tercera del Tribunal Supremo aplica el derecho a una buena administración como parámetro de control de la actividad administrativa 44. Este principio jurídico emana, a tenor de dicha jurisprudencia, de los arts. 9.3 y 103.1 CE, y tiene su reflejo en la legislación positiva en los principios del art. 3.1., e) de la LRJSP (STS 196/2019, de 19 de febrero, FJ 6, ECLI:ES:TS:2019:579, entre muchas otras). Aplicado al ámbito de las actuaciones algorítmicas, el hecho de prescindir del trámite de audiencia en procedimientos total o parcialmente automatizados constituye un caso de vulneración del derecho a una buena administración que podría provocar la invalidez del acto. Ello siempre y cuando se trate de medidas desfavorables para el interesado. Si la decisión algorítmica es favorable, lo recomendable en términos de eficiencia y eficacia sería calificarla como un acto resolutorio a todos los efectos.
Por otro lado, no debemos olvidar que la racionalización y la simplificación administrativas nunca pueden constituir por sí mismas excusa o fundamento para mermar las garantías del procedimiento. La Administración tiene el deber de actuar de forma adecuada, necesaria y proporcional a los fines que persigue. Respetando los derechos fundamentales y conforme a unos principios de actuación orientados a la satisfacción de los intereses generales de una forma racional y razonable (SCHMIDT-ASSMAN, 2003: 347). Ergo, la forma en que se persigan dichos intereses generales deberá cohonestarse siempre con el respeto a los derechos individuales del ciudadano.
Para analizar la validez de la actuación administrativa de forma rigurosa en un Estado constitucional de Derecho como el nuestro, resulta imprescindible partir del principio de juridicidad. Según el Diccionario panhispánico del español jurídico (DPEJ), dicho principio se define como una “Concepción de las relaciones de la Administración con la ley que implica que aquella no solo está sometida a la ley, sino al derecho, noción más amplia que incluye normas superiores e inferiores a la ley, supranacionales y estatales, además de implicar también sometimiento a los principios, valores y garantías de los derechos y libertades”. Este comporta la superación del principio de legalidad fruto del Estado liberal 45 y el sometimiento de la Administración, no solo a la ley entendida como la expresión de la voluntad general, sino también a principios y valores que, positivizados o no, forman parte de nuestro acervo jurídico 46.
La necesidad de traer al texto el principio de juridicidad se justifica porque el uso de sistemas algorítmicos en la actuación administrativa puede abocarnos a un escenario en el que la lógica jurídica puede verse desplazada por la lógica matemática. Huelga decir que la ciencia jurídica no es una ciencia exacta. Por el contrario, es bien sabido que son frecuentes las situaciones que exigen una interpretación que excede de la mera aplicación automática del Derecho a un supuesto de hecho concreto. Supuestos estos en los que es necesario acudir a reglas jurídicas, algunas escritas y otras no, que se deducen del propio sistema normativo y actúan como criterios moduladores de la actuación administrativa. Por este motivo, en los supuestos que exigen la realización de un juicio ponderativo o la aplicación de criterios hermenéuticos no positivizados, el uso de criterios probabilísticos para la resolución del caso concreto deviene, a mi juicio, imposible.
Salvo error mío, los sistemas algorítmicos actuales carecen de la capacidad de interpretar conceptos jurídicos indeterminados, de aplicar principios generales del Derecho o de razonar como lo haría un ser humano. Para operar utilizan complejas funciones matemáticas basadas en la probabilidad y en la correlación de datos para resolver problemas. Desde este punto de vista, y habida cuenta de que la Administración está sometida, no solo a la Ley, sino también al Derecho, debemos plantearnos la siguiente cuestión, ¿Sería jurídicamente posible sustituir al empleado público en todos los ámbitos de actuación de la Administración?
La respuesta a esta pregunta solo puede ser negativa. El principio de juridicidad impide a la Administración actuar al margen del Derecho, entendido este como conjunto de principios, valores y reglas jurídicas escritas y no escritas. Luego, si otorgáramos validez jurídica a una actuación administrativa cuyo único fundamento radica en la función matemática de un programa informático, estaríamos legitimando un modelo de Administración tecnocrática que atentaría contra los principios más elementales de un Estado constitucional de Derecho. Y ello por cuanto dicha actuación no podría explicarse conforme a criterios lógico-jurídicos expresados en un lenguaje que el ciudadano pueda entender. En definitiva, tal proceder supondría renunciar al Derecho como sistema de ordenación social.
Los algoritmos no pueden sustituir al Derecho en su función ordenadora, como tampoco pueden ni deben ser considerados una fuente de reglas jurídicas 47. Ni aun cuando una ley aprobada por las Cortes Generales atribuyera tal efecto ello sería posible, pues, a mi modo de ver, tal ley incurriría en un vicio de inconstitucionalidad por contravenir los arts. 9.1; 9.3 y 103.1 CE. Corolario de lo anterior es que el principio de juridicidad impide al legislador adoptar una ley que habilite a la Administración a adecuar su actuación con base en criterios que no puedan ser fiscalizados mediante la lógica jurídica.
Lo contrario supondría permitir, no ya la clásica huida del Derecho Administrativo hacia el derecho privado, sino la rendición del imperio de la ley a través de la ley en pos de una especie de dictadura del algoritmo. Dictadura esta en la que las decisiones encuentran su fundamento en cálculos probabilísticos o estadísticos y donde la causalidad se sustituye por la correlación. En fin, de la clásica concepción del acto administrativo como acto ordenado que aplica el Derecho al caso concreto pasaríamos al acto administrativo como producto de una operación matemática.
En el ámbito de la Administración, el derecho a una explicación regulado en el art. 86 48 del RIA se configura como una nueva garantía para los interesados que sean objeto de decisiones que hayan sido adoptadas con base en los resultados de un sistema de inteligencia artificial de alto riesgo de los enumerados en el Anexo III 49. El precepto reconoce el derecho a obtener del responsable del despliegue (en nuestro caso, la Administración) “explicaciones claras y significativas acerca del papel que el sistema de IA ha tenido en el proceso de toma de decisiones y los principales elementos de la decisión adoptada” (art. 86, apdo. 1 RIA).
Siguiendo al profesor MIR PUIGPELAT, es importante tener en cuenta que la referencia expresa a un “derecho a obtener” impone a la Administración un deber específico de motivación de las decisiones que debe cumplirse de oficio. Es decir, independientemente de si el interesado lo solicita o no (2025: 74). En sentido contrario se ha pronunciado PALMA ORTIGOSA, tesis que también parece respaldar JIMÉNEZ LÓPEZ 50. A juicio de PALMA ORTIGOSA, de la redacción del artículo 86, apartado 1 y del considerando 93 RIA se desprende que corresponde a las personas afectadas solicitar el derecho a una explicación (2025: 514).
En mi opinión, esta última no sería la interpretación más adecuada, ya que no tiene en cuenta: i) que el considerando 93 solo hace referencia al contenido de la obligación de informar de los responsables del despliegue del artículo 26 del RIA, no al derecho a una explicación, al que se refiere el considerando 171; y ii) que en la redacción definitiva del RIA el colegislador europeo optó por configurar el derecho a una explicación como un “derecho a obtener”, no como un “derecho a solicitar” (que era lo que se preveía inicialmente en las enmiendas del Parlamento Europeo 51).
A pesar de que a primera vista podamos considerar plausible la decisión del colegislador europeo de introducir una garantía tan necesaria como esta, lo cierto es que la efectividad del derecho a una explicación es más que cuestionable. Al menos por lo que se refiere al uso de sistemas algorítmicos en las Administraciones Públicas. En primer término, la operatividad de este derecho requiere que se dé alguna de las siguientes condiciones: i) que la decisión adoptada tenga efectos jurídicos; o ii) que afecte considerablemente de la misma manera (que si tuviera efectos jurídicos), de forma tal que pueda considerarse que la decisión tiene un efecto perjudicial para la salud, la seguridad o los derechos fundamentales del interesado. Salvo la referencia a la afectación sobre los derechos fundamentales, lo cierto es que la Administración tiene fácil eludir la aplicación de este precepto alegando el carácter meramente instrumental y no vinculante de la información de salida del sistema de inteligencia artificial empleado.
En segundo término, ya se apuntó supra que el concepto de sistema de inteligencia artificial ha quedado finalmente restringido a los programas informáticos que operen con cierto grado de autonomía. En otras palabras: no podrá exigirse el derecho a una explicación cuando se empleen sistemas que, pese a operar técnicamente con inteligencia artificial, no sean autónomos. Por ejemplo, el sistema RISCANVI utilizado por la Administración penitenciaria catalana podría quedar fuera del ámbito de aplicación del RIA si, pese a operar con técnicas de inteligencia artificial, se considera que no es un sistema autónomo 52.
Por su parte, el apartado 2 del art. 86 RIA permite a los Estados miembros imponer restricciones o excepciones al cumplimiento de dicha obligación, lo que supone dejar el derecho a una explicación en manos de lo que se decida a nivel nacional. No obstante, conviene tener presente el apartado 3, que condiciona la aplicabilidad de este derecho a que no esté previsto de otra forma en el Derecho de la Unión. Ello nos lleva al siguiente epígrafe, en el que se expondrá la conexión del derecho a una explicación del RIA con el derecho a no ser objeto de decisiones automatizadas del art. 22 RGPD.
El art. 22 RGPD prohíbe el tratamiento automatizado de decisiones que produzcan efectos jurídicos en los interesados (personas físicas) o les afecten significativamente de modo similar. Este precepto, que ha sido recientemente objeto de interpretación por el Tribunal de Justicia de la Unión Europea (TJUE), tiene un alcance mucho más amplio que el art. 86 del RIA. Al respecto, el derecho a no ser objeto de una decisión automatizada se aplica a todos los sistemas algorítmicos, con independencia de si estos constituyen sistemas de inteligencia artificial a efectos del RIA.
Pero, más allá del ámbito de aplicación 53, lo realmente interesante es que en aquellos supuestos en que el tratamiento automatizado sí está permitido por el Derecho de la Unión o de los Estados miembros, surge la obligación de que el responsable del tratamiento (en nuestro caso, la Administración) establezca medidas adecuadas para salvaguardar los derechos y libertades, así como los intereses legítimos del interesado [art. 22.2, b) RGPD]. La determinación de las medidas concretas no es objeto de estudio en este trabajo, pero del considerando 71 del RGPD se deduce claramente que entre dichas garantías debería incluirse “la información específica al interesado y el derecho a obtener intervención humana, a expresar su punto de vista, a recibir una explicación de la decisión tomada después de tal evaluación y a impugnar la decisión”. Así lo ha entendido también el TJUE en su reciente sentencia de 7 de diciembre de 2023 (parágrafos 65 y 66).
Asimismo, reiterando lo que ya indiqué supra, debe tenerse en cuenta que el TJUE ha interpretado el concepto “decisión” del art. 22 de forma amplia, de modo que no se entienden como tales únicamente las decisiones totalmente automatizadas que produzcan efectos jurídicos directos en el interesado, sino también las decisiones previas que, pudiendo ser definidas formalmente como actos preparatorios, materialmente sirven de fundamento o influyen de forma determinante en la decisión final. El TJUE justifica esta interpretación con el argumento de evitar la elusión del art. 22 RGPD, lo que daría lugar a una laguna en la protección jurídica no buscada por el colegislador europeo (parágrafos 60 a 62 de la STJUE de 7 de diciembre, asunto C-634/21).
Como ya comenté en el epígrafe relativo a las precisiones terminológicas, la tesis aquí defendida parte de un concepto de actuación administrativa automatizada amplio, en línea con el asumido por el TJUE al abordar el concepto de “decisión”. Desde esta óptica, el derecho a una explicación del art. 86 del RIA supone, a mi modo de ver, una concreción de las garantías previstas por el art. 22.2. b) RGPD aplicable a determinadas decisiones que se fundamenten en la información de salida de un sistema de inteligencia de artificial de alto riesgo de los enumerados en el Anexo III del RIA.
Del análisis conjunto del derecho a una explicación del RIA y de la interpretación que el TJUE ha hecho del derecho a no ser objeto de decisiones automatizadas del art. 22 RGPD 54, se concluye la necesidad de reformar la LPAC y la LRJSP, a fin de garantizar un derecho específico a la explicación de las decisiones algorítmicas.
A tal efecto, el legislador estatal debe garantizar que todas las actuaciones administrativas algorítmicas cuenten con una mínima motivación cuando influyan, determinen u orienten la decisión final. Y ello con independencia de que la herramienta algorítmica emplee inteligencia artificial, de que las decisiones produzcan efectos jurídicos directos o indirectos o, en definitiva, de que el interesado sea una persona física o jurídica. Los programas que utilizan técnicas de análisis masivo de datos y minería de datos, aun cuando no operen con IA, pueden afectar igual o incluso en mayor medida a los derechos de los administrados que los sistemas de inteligencia artificial calificados como de alto riesgo a la luz del RIA.
Como se ha expuesto en páginas anteriores, la Administración ya utiliza potentes herramientas para planificar y orientar la actividad administrativa. El argumento de que la decisión en última instancia la toma un ser humano no puede servir de excusa para eludir las obligaciones que la normativa europea impone. Ello supondría un vaciamiento del contenido del art. 22 RGPD y una interpretación contraria al espíritu de la norma. En consecuencia, por decisión debe entenderse no solo el acto administrativo dictado por el órgano competente, sino también todas las actuaciones que sirvan significativamente para orientar la acción de la Administración.
A mi juicio, el reconocimiento de un derecho específico a la explicación de las decisiones administrativas algorítmicas facilitaría la aplicación e integración plena de la reciente jurisprudencia del TJUE en el ordenamiento jurídico estatal. Pero, yendo más allá, la introducción de este derecho supondría un refuerzo de las garantías de los interesados que contribuiría a la implementación generalizada de los sistemas algorítmicos en la Administración. La interpretación conjunta de ambos preceptos (art. 86 RIA y 22 RGPD) exige el desarrollo de un derecho a nivel estatal que permita a los interesados fiscalizar las actuaciones administrativas algorítmicas que influyan directa o indirectamente en su esfera jurídica.
El uso de sistemas algorítmicos por la Administración es una realidad que, como juristas, tenemos el deber de afrontar. Empero, no de forma superficial y cortoplacista (algo propio de los temas que constituyen una moda o tendencia pasajera), sino de manera profunda y con la mente abierta, pues su uso ya está transformando las relaciones entre la Administración y el ciudadano, así como el modo en que esta ejerce sus potestades. En este trabajo, sin duda modesto en cuanto a su contenido, he tratado de contribuir a la cimentación de un edificio que aún está por construir.
En primer lugar, el estudio pone negro sobre blanco la importancia de las actuaciones administrativas informales que se apoyan en potentes sistemas algorítmicos. En la medida en que estas actuaciones pueden orientar e influir de forma determinante en la esfera del interesado, se hace necesaria una interpretación que otorgue relevancia jurídica a las mismas. Y ello con la finalidad de que puedan ser objeto de control, en su caso, en vía judicial o administrativa. La paulatina sustitución del criterio subjetivo del funcionario por los criterios objetivos que emanan de las decisiones algorítmicas comporta un cambio de paradigma en la actuación de la Administración que no podemos obviar. Es imprescindible, a mi juicio, incorporar al expediente las actuaciones algorítmicas informales que se acometan en el ejercicio de la actividad administrativa.
En consecuencia con lo expuesto, se recomienda ampliar los contornos del concepto “actuación administrativa automatizada” del art. 41.1 LRJSP, incluyendo también en este los resultados arrojados por los sistemas algorítmicos que se utilicen fuera del marco de un procedimiento. Con la misma finalidad, y en aras de evitar subterfugios o interpretaciones torticeras que vacíen de contenido el citado precepto, conviene realizar una interpretación amplia, en cuya virtud también se consideren actuaciones administrativas automatizadas aquellas en las que el empleado público se limita a seguir la recomendación dada o a reproducir íntegramente el contenido de la decisión algorítmica. Con esto ponemos coto y controlamos el famoso sesgo de automatización en la toma de decisiones semiautomatizadas.
En segundo lugar, por lo que respecta a las actuaciones algorítmicas que se acometan dentro del marco de un procedimiento administrativo, debemos diferenciar entre dos tipos en función de su finalidad y contenido: las decisiones algorítmicas que constituyan actos de trámite y aquellas otras que representan actos resolutorios. En cuanto a las primeras, en la medida en que su finalidad sea la de valorar la concurrencia de presupuestos fácticos o servir de fundamento a la resolución final, deben formar parte del contenido del acto que pone fin al procedimiento. Nada nuevo bajo el sol, pues la motivación in aliunde es una figura de sobra conocida.
Por lo que atañe a las segundas, en el supuesto de que estas contengan medidas desfavorables para el interesado, el trámite de audiencia deviene imperativo. Y ello en aras de cumplir con el derecho a una buena administración, previsto a nivel europeo en el art. 41 CDFUE y que encuentra su fundamento jurídico-constitucional en el plano del derecho interno en los arts. 9.3 y 103.1 CE 55. Por otra parte, se concluye que la impugnabilidad de este tipo de actuaciones ante el órgano competente está fuera de toda duda. Como hemos tenido la ocasión de comprobar, el caso BOSCO supone un caso paradigmático de cómo no se debe regular un procedimiento administrativo automatizado total o parcialmente.
En relación con los argumentos que niegan la necesidad de garantías adicionales por el hecho de que dichas garantías no se prevén si la actuación la realiza un ser humano, no pueden ser compartidos por quien suscribe este trabajo. Si queremos implementar de forma generalizada el uso de sistemas algorítmicos en la Administración debemos hacerlo mediante un reequilibrio de sus poderes exorbitantes. Es cierto que hasta ahora muchas de las actuaciones informales o previas al procedimiento no eran objeto de fiscalización porque venían justificadas por criterios subjetivos imposibles o sumamente difíciles de escrutar. Sin embargo, la información arrojada por los sistemas algorítmicos que orientan e influyen en la subjetividad del empleado público sí pueden, en mayor o menor grado, objetivarse. Ergo, no podemos dar el mismo tratamiento a situaciones que son radicalmente distintas. Por consiguiente, y a fin de facilitar la explicabilidad de dichas actuaciones, sería conveniente una reforma de la normativa básica estatal que impusiera a la Administración la obligación de emplear únicamente sistemas algorítmicos de “caja blanca”.
Finalmente, quiero hacer una reivindicación del principio de juridicidad y su importancia en un Estado constitucional de Derecho como el nuestro. El sometimiento pleno de la Administración a la Ley y al Derecho exige a esta el respeto a valores y principios jurídicos, entre los que se encuentran el principio de proporcionalidad, de seguridad jurídica o de la interdicción de la arbitrariedad de los poderes públicos. Huelga decirlo, pero también exige el respeto a los derechos fundamentales en todas y cada una de sus actuaciones. Sea esta formal o informal. Tenga o no moldes jurídicos o un régimen al que ajustarse.
Dichos principios y valores, que operan como soporte y fundamento de todo el sistema normativo, modulan y restringen la actuación administrativa. Con esta simple disertación quiero llamar la atención e invitar a la reflexión sobre una cuestión que quizás, precisamente por su simpleza, podemos pasar de largo: una cosa es atribuir valor jurídico a las decisiones algorítmicas o regular el uso de sistemas informáticos para garantizar un uso racional y razonable, y otra muy distinta es promover el sometimiento o la vinculación de la Administración a criterios matemáticos.
Que para la correcta aplicación del Derecho sea necesario en ocasiones acudir a otras ciencias es algo inevitable. Ahora bien, cuando alegremente se habla de atribuir valor normativo a los sistemas algorítmicos o a sus productos (las decisiones automatizadas), en realidad no hablamos de la utilización de criterios técnicos para valorar supuestos de hecho, sino de sustituir al propio Derecho en su función ordenadora por criterios matemáticos. Esto, en mi opinión, no es viable desde el punto de vista jurídico-constitucional ni democrático.
A menos, claro está, que como sociedad queramos renunciar a un modelo de Administración propio de un Estado democrático de Derecho por otro basado en una dictadura del algoritmo. Dictadura en la que el ciudadano pasaría a ser tratado como una mera variable en una ecuación cuyas incógnitas nos son imposibles de despejar.
Vicente ÁLVAREZ GARCÍA y Flor ARIAS APARICIO, Lecciones elementales sobre el acto, el procedimiento y el control judicial de la actividad de la Administración, Iustel, 2022.
Vicente ÁLVAREZ GARCÍA, “La naturaleza jurídica de los algoritmos”. El Cronista del Estado Social y Democrático de Derecho, 114, 2024, pp. 42-47.
Vicente ÁLVAREZ GARCÍA y Jesús TAHIRI MORENO, “La regulación de la inteligencia artificial en Europa a través de la técnica armonizadora del nuevo enfoque”, Revista General de Derecho Administrativo, 63, 2023.
Luis ARROYO JIMÉNEZ, “Algoritmos y reglamentos”, Almacén de Derecho, 2024, https://almacendederecho.org/algoritmos-y-reglamentos.
Jane BAMBAUER & Tal ZARSKY, “The Algorithm Game”, Notre Dame Law Review, 94 (1), 2018, pp. 1-47, https://scholarship.law.nd.edu/ndlr/vol94/iss1/1.
Moisés BARRIO ANDRÉS (dir.), Comentarios al Reglamento Europeo de Inteligencia Artificial, 1ª ed. La Ley Aranzadi, 2024.
José Luis BERMEJO LATRE, “La aplicación de la inteligencia artificial en la actividad formal e informal de la Administración”, en Patricia VALCÁRCEL FERNÁNDEZ y Francisco L. HERNÁNDEZ GONZÁLEZ (coords.), El derecho administrativo en la era de la inteligencia artificial, Instituto Nacional de la Administración Pública, 2025, pp. 223-250.
José BERMEJO VERA, “La Administración inspectora”, Revista de Administración Pública, 147, 1998, pp. 39-58.
José BERMEJO VERA, Derecho Administrativo Básico. Parte General, 12ª ed., Civitas, 2016.
José Luis CARRO FERNÁNDEZ-VALMAYOR y Marcos ALMEIDA CERREDA, “Sobre la llamada actividad informal de la administración pública”, en Manuel Rebollo Puig, Mariano López Benítez y Eloísa Carbonell Porras (coords.), Régimen jurídico básico de las administraciones públicas: libro homenaje al profesor Luis Cosculluela. Iustel, 2015, pp. 393-412.
Agustí CERRILLO MARTÍNEZ, “Lección 21. Actuación automatizada, robotizada e inteligente”, en Francisco VELASCO CABALLERO y Mercé DARNACULLETA GARDELLA (dirs.), Manual de Derecho Administrativo, 2ª ed. Marcial Pons, 2024, pp. 531-547.
César CIERCO SEIRA, “Reflexiones sobre los actos de trámite cualificados”, Revista de Derecho Público: Teoría y método, 10, 2024, pp. 189-233.
César CIERCO SEIRA, “Reflexiones sobre el principio de oportunidad en el derecho administrativo sancionador”, en Antonio EZQUERRA HUERVA (coord.), Estudios de Derecho administrativo sancionador, en reconocimiento a Juan M.ª Pemán Gavín, Colex, 2024, pp. 23-76.
Luis COSCULLUELA MONTANER, Manual de Derecho Administrativo. Parte General., 33ª ed., Civitas, 2022.
Lorenzo COTINO HUESO, “La primera sentencia del Tribunal de Justicia de la Unión Europea sobre decisiones automatizadas y sus implicaciones para la protección de datos y el Reglamento de inteligencia artificial”, Diario LA LEY, 2024, núm. 80.
Juan Carlos COVILLA, “Artificial Intelligence and Administrative Discretion: Exploring Adaptations and Boundaries”, European Journal of Risk Regulation, 16(1), 2025, pp. 36–50, doi:10.1017/err.2024.76.
Antonio FORTES MARTÍN, “La distribución de competencias e imputación de responsabilidades en la actuación administrativa automatizada”, en Marcos VAQUER CABALLERÍA (dir.) y Juanita PEDRAZA CÓRDOBA (coord.), La actuación administrativa automatizada: sus claves jurídicas, Tirant lo Blanch. 2025, pp. 395-467.
Eduardo GAMERO CASADO, “Sistemas automatizados de toma de decisiones en el derecho administrativo español”, Revista General de Derecho Administrativo, 63, 2023.
Jorge GARCÍA-ANDRADE GÓMEZ, “Lección 20. Actuaciones sin procedimiento”, en Francisco VELASCO CABALLERO y Mercé DARNACULLETA GARDELLA (dirs.). Manual de Derecho Administrativo, 2ª ed. Marcial Pons, 2024, pp. 507-523.
Eduardo GARCÍA DE ENTERRÍA y Tomás Ramón FERNÁNDEZ RODRÍGUEZ, Curso de Derecho Administrativo, Vol. I, 20ª ed., Civitas, Navarra, 2022.
José María GIMENO FELIU, Hacia una buena administración desde la contratación pública. De la cultura de la burocracia y el precio a la de la estrategia y el valor de los resultados, Marcial Pons, 2024.
Alejandro HUERGO LORA, “De la digitalización a la inteligencia artificial: ¿evolución o revolución?”, en Patricia VALCÁRCEL FERNÁNDEZ y Francisco L. HERNÁNDEZ GONZÁLEZ (coords.), El derecho administrativo en la era de la inteligencia artificial, Instituto Nacional de la Administración Pública, 2025, pp. 31-72.
Alejandro HUERGO LORA, “Inteligencia artificial: una aproximación jurídica no catastrofista”, Revista Española de Control Externo, 74-75, 2023, pp. 110-129.
Alejandro HUERGO LORA, “Por qué aciertan las sentencias sobre el ‘algoritmo’ del bono social eléctrico”, Almacén de Derecho, 2024, https://almacendederecho.org/por-que-aciertan-las-sentencias-sobre-el-algoritmo-del-bono-social-electrico.
Alejandro HUERGO LORA, “Distopía y algoritmos”, Almacén de Derecho, 2024, https://almacendederecho.org/distopia-y-algoritmos.
Alejandro HUERGO LORA, “Una aproximación a los algoritmos desde el derecho administrativo”, en Alejandro HUERGO LORA (dir.) y Gustavo Manuel DÍAZ GONZÁLEZ (coord.), La regulación de los algoritmos, Aranzadi, 2020, pp. 23-87.Jesús JIMÉNEZ LÓPEZ, “El Reglamento de inteligencia artificial y el Reglamento general de protección de datos”, en Lorenzo COTINO HUESO y Pere SIMÓN CASTELLANO (dirs.), Tratado sobre el Reglamento Europeo de Inteligencia Artificial, Aranzadi, 2024, pp. 149-180, https://hdl.handle.net/10550/109638.
Juan Francisco MESTRE DELGADO, “Artículo 105”, en Miguel RODRÍGUEZ-PIÑERO BRAVO-FERRER y María Emilia CASAS BAAMONDE (dirs.), Comentarios a la Constitución Española, BOE-Wolters-Kluwer, 2018, pp. 487-501.
Oriol MIR PUIGPELAT, “La automatización y el uso de algoritmos e inteligencia artificial en derecho administrativo comparado”, Revista General de Derecho Administrativo, 63, 2023.
Oriol MIR PUIGPELAT, “Algoritmos, inteligencia artificial y procedimiento administrativo: principios comunes en el Derecho de la Unión Europea”, en Eduardo GAMERO CASADO (dir.) y Francisco Luis PÉREZ GUERRERO (coord.), Inteligencia artificial y sector público: retos, límites y medios, 1ª ed. Tirant lo Blanch, 2023, pp. 685-725.
Oriol MIR, “The AI Act from the Perspective of Administrative Law: Much Ado About Nothing?”, European Journal of Risk Regulation, 16(1), 2025, pp. 63–75, doi:10.1017/err.2024.54
Santiago MUÑOZ MACHADO, Tratado de Derecho Administrativo y Derecho Público General. Tomo III. Los principios de constitucionalidad y legalidad. 4ª ed. Boletín Oficial del Estado, 2015a.
Santiago MUÑOZ MACHADO, Tratado de Derecho Administrativo y Derecho Público General. Tomo IV. El ordenamiento jurídico, 4ª ed., Boletín Oficial del Estado, 4ª Edición, 2015b.
Santiago MUÑOZ MACHADO, Tratado de Derecho Administrativo y Derecho Público General. Tomo XII. Actos administrativos y sanciones administrativas. 4ª ed. Boletín Oficial del Estado, 2015c.
Adrián PALMA ORTIGOSA, “Chapter 23: Remedies (Chapter IX, Section 4)”, en Alejandro HUERGO LORA (ed.) y Gustavo Manuel DÍAZ GONZÁLEZ (coord.), The EU regulation on Artificial Intelligence: A commentary, Wolters Kluwer/CEDAM, 2025, pp. 503-519.
Juli PONCE SOLÉ, “Reserva de humanidad y supervisión humana de la Inteligencia artificial”, El Cronista del Estado Social y Democrático de Derecho, 100, 2022, pp. 58-67.
Juli PONCE SOLÉ, “Por qué se equivocan las sentencias sobre el algoritmo del bono social eléctrico”, Almacén de Derecho, 2024, https://almacendederecho.org/por-que-se-equivocan-las-sentencias-sobre-el-algoritmo-del-bono-social-electrico.
Juli PONCE SOLÉ, “Utopía y algoritmos”, Almacén de Derecho, 2024, https://almacendederecho.org/utopia-y-algoritmos.
Juli PONCE SOLÉ, “Inteligencia Artificial, decisiones administrativas discrecionales totalmente automatizadas y alcance del control judicial: ¿indiferencia, insuficiencia o deferencia?”, Revista de Derecho Público: Teoría y método, 9, 2024, pp. 171-220.
Miguel SÁNCHEZ MORÓN, Derecho administrativo, Parte General, 19ª ed. Tecnos, 2023.
Eberhard SCHMIDT-ASSMANN, La teoría general del Derecho Administrativo como sistema. Marcial Pons/Instituto Nacional de Administración Pública, 2003.
Eberhard SCHMIDT-ASSMANN, La dogmática del derecho administrativo. 1ª ed., Global Law Press, Sevilla, 2021.
Alba SORIANO ARNANZ, “Posibilidades actuales y futuras para la regulación de la discriminación producida por algoritmos”, 2020. Disponible en https://hdl.handle.net/10550/77050.
Jesús A. TAHIRÍ MORENO, “El principio de presunción de falibilidad de las decisiones algorítmicas desfavorables: Una nueva garantía jurídica frente a las decisiones automatizadas y el uso de sistemas de inteligencia artificial en la Administración Pública”. Revista Aragonesa de Administración Pública, 60, 2023, pp. 188-214.
Jesús A. TAHIRÍ MORENO, “Una panorámica de los sistemas de inteligencia artificial desde la perspectiva del derecho administrativo”, Revista Aragonesa de Administración Pública, 61, 2024, pp. 137-168.
Jesús A. TAHIRÍ MORENO y Lucía COFRADES AQUILUÉ, “Déficits y excesos normativos en materia de transparencia, buena administración y buen gobierno: un análisis de la cuestión a partir de la legislación estatal y extremeña”, Revista De Estudios De La Administración Local y Autonómica, 22, 2024, pp. 92-117 https://doi.org/10.24965/reala.11350.
Clara Isabel VELASCO RICO, “La actividad informal de la administración. Premisas para una tentativa de reconstrucción de una categoría (casi) olvidada”, Revista de Derecho Público: Teoría y método, 5, 2022, pp. 37-71.
José VIDA FERNÁNDEZ, “La automatización de la actuación material, gestora o prestadora de servicios públicos”, en Marcos VAQUER CABALLERÍA (dir.) y Juanita PEDRAZA CÓRDOBA (coord.), La actuación administrativa automatizada: sus claves jurídicas, Tirant lo Blanch. 2025, pp. 647-710.
Guido ZANOBINI, Curso de Derecho Administrativo, Parte General, Vol. I, Ediciones Arayú, Buenos Aires, 1954.
* La versión inicial de este estudio recibió el XX Premio de Derecho Público “Gascón y Marín”, otorgado por la Real Academia Aragonesa de Jurisprudencia y Legislación. El trabajo es resultado de las investigaciones realizadas en el marco de los Proyectos de Generación de Conocimiento «Innovación para una salud de vanguardia: compra pública, tecnología, sostenibilidad ambiental y factores socioeconómicos (IN-SALVAN)» (PID2021-127828NB-I00); «Hacia la buena administración desde la contratación pública en el contexto de la Unión Europea de la salud» (PID2023-150327NB-I00) y «Los retos de la inteligencia artificial para el Estado social y democrático de Derecho» (PID2022-136548NB-I00), financiados por el Ministerio de Ciencia, Innovación y Universidades. De otra parte, aprovecho esta nota al pie para agradecer encarecidamente a los evaluadores sus observaciones y sugerencias, ya que me han permitido mejorar sustancialmente el manuscrito inicial.
1 Para un análisis pormenorizado del articulado del Reglamento de Inteligencia Artificial, véase Moisés BARRIO ANDRÉS (dir.), Comentarios al Reglamento Europeo de Inteligencia Artificial, La Ley Aranzadi, 2024; Lorenzo COTINO HUESO y Pere SIMÓN CASTELLANO (dirs.), Tratado sobre el Reglamento Europeo de Inteligencia Artificial, Aranzadi, 2024; Alejandro HUERGO Lora (ed.) y Gustavo Manuel DÍAZ GONZÁLEZ (coord.), The EU regulation on Artificial Intelligence: A commentary, Wolters Kluwer/CEDAM, 2025. No obstante, debe tenerse en cuenta que el RIA adopta un enfoque privatista cuyo fin principal es garantizar el buen funcionamiento del mercado único europeo, sin tener prácticamente en cuenta las particularidades que presenta el uso de la inteligencia artificial en la Administración. Para profundizar en la cuestión desde la perspectiva de la normalización europea, se recomienda la lectura de Álvarez GARCÍA y Tahiri MORENO, “La regulación de la inteligencia artificial en Europa a través de la técnica armonizadora del nuevo enfoque”, Revista General de Derecho Administrativo, 63, 2023.
2 Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio de 2024, por el que se establecen normas armonizadas en materia de inteligencia artificial y por el que se modifican los Reglamentos (CE) n.° 300/2008, (UE) n.° 167/2013, (UE) n.° 168/2013, (UE) 2018/858, (UE) 2018/1139 y (UE) 2019/2144 y las Directivas 2014/90/UE, (UE) 2016/797 y (UE) 2020/1828 (Reglamento de Inteligencia Artificial).
3 Reglamento (UE) 2016/679 del Parlamento Europeo y del Consejo, de 27 de abril de 2016, relativo a la protección de las personas físicas en lo que respecta al tratamiento de datos personales y a la libre circulación de estos datos y por el que se deroga la Directiva 95/46/CE (Reglamento general de protección de datos)
4 Una muestra de la dispersión y el tratamiento diferenciado la encontramos en la Ley 2/2025, de 2 de abril, para el desarrollo e impulso de la inteligencia artificial en Galicia. Si bien la norma refuerza las garantías del administrado frente al uso de sistemas de inteligencia artificial por el sector público autonómico, lo cierto es que deja fuera de su ámbito de aplicación todo supuesto de uso de sistemas algorítmicos que no sean sistemas de inteligencia artificial. Algo similar ocurre en la Ley 7/2024, de 11 de diciembre, de medidas urgentes de simplificación y racionalización administrativas de las administraciones públicas de las Illes Balears. En este supuesto, el Legislador balear amplía las garantías previstas en el artículo 41 de la Ley 40/2015, sí, pero únicamente para los casos de uso de sistemas de inteligencia artificial (art. 67.2, párrafo segundo).
5 Algunos autores, como el profesor VIDA FERNÁNDEZ, esperan que la paulatina implementación de sistemas de inteligencia artificial en la Administración de lugar a una mayor regulación de las actuaciones administrativas automatizadas (2025: 706). En mi opinión, la fuerza de la inercia no constituye en modo alguno una solución al déficit de garantías existente. En primer lugar, no todos los sistemas de inteligencia artificial quedarán sujetos a las disposiciones del RIA; y, en segundo lugar, son muchos los sistemas algorítmicos utilizados por la Administración que no operan con inteligencia artificial, por lo que el ámbito de aplicación de esta norma es, a todas luces, insuficiente.
6 Y lo trasciende no solo en cuanto a su contenido, sino también respecto de sus fines. Las actuaciones administrativas automatizadas responden a un modelo de Administración electrónica de otro tiempo, mientras que el concepto de actuación administrativa algorítmica que aquí se propone trata de ofrecer respuestas a las necesidades y problemas de una Administración Pública tecnológicamente avanzada e inmersa en una revolución industrial.
7 Respecto del requisito de la adaptabilidad, debe tenerse en cuenta que la Comisión Europea ha matizado su contenido, en la medida en que lo interpreta como una condición meramente facultativa del sistema informático que no determina per se su calificación como sistema de inteligencia artificial [apartado (23) del anexo de la Comunicación por la que se aprueba el proyecto de Directrices de la Comisión sobre el concepto de sistema de inteligencia artificial establecido por el Reglamento (UE) 2024/1689]. Sin embargo, y como el propio documento reconoce en su apartado 7, a quien corresponde en última instancia interpretar el Derecho de la Unión es al Tribunal de Justicia de la Unión Europea, por lo que es perfectamente posible una interpretación diversa del contenido de los requisitos. Puede accederse al texto completo en el siguiente enlace https://digital-strategy.ec.europa.eu/en/library/commission-publishes-guidelines-ai-system-definition-facilitate-first-ai-acts-rules-application.
8 Un comentario a la sentencia puede encontrarse en Lorenzo Cotino Hueso, “La primera sentencia del Tribunal de Justicia de la Unión Europea sobre decisiones automatizadas y sus implicaciones para la protección de datos y el Reglamento de inteligencia artificial”, Diario LA LEY, Nº 80, 2024. No obstante, en este trabajo se realizará un análisis de los efectos de la resolución en el ámbito específico de la Administración Pública.
9 Un análisis específico sobre el control judicial de las decisiones administrativas discrecionales adoptadas con IA puede encontrarse en Juli Ponce Solé, “Inteligencia Artificial, decisiones administrativas discrecionales totalmente automatizadas y alcance del control judicial: ¿indiferencia, insuficiencia o deferencia?”, Revista de Derecho Público: Teoría y método, 9, 2024, pp. 171-220.
10 Sentencia del Juzgado Central de lo Contencioso Administrativo 143/2021, de 30 de diciembre de 2021 (Roj: SAN 5863/2021 — ECLI:ES:AN:2021:5863). Dicha resolución judicial ha sido confirmada en apelación por la sentencia de la Sala de lo Contencioso-Administrativo de la Audiencia Nacional (Sección 7ª) de 30 de abril de 2024 (rec. nº 0000051/2022). En torno a esta última sentencia se generó un debate sobre el derecho de acceso al código fuente del programa BOSCO entre los profesores Huergo Lora y Ponce Solé cuya lectura recomiendo. Las aportaciones de ambos pueden leerse en Alejandro Huergo Lora, “Por qué aciertan las sentencias sobre el ‘algoritmo’ del bono social eléctrico. Almacén de Derecho, 2024, https://almacendederecho.org/por-que-aciertan-las-sentencias-sobre-el-algoritmo-del-bono-social-electrico; Alejandro Huergo Lora, “Distopía y algoritmos”, Almacén de Derecho, 2024, https://almacendederecho.org/distopia-y-algoritmos; Juli Ponce Solé, “Por qué se equivocan las sentencias sobre el algoritmo del bono social eléctrico”, Almacén de Derecho, 2024, https://almacendederecho.org/por-que-se-equivocan-las-sentencias-sobre-el-algoritmo-del-bono-social-electrico; y Juli Ponce Solé, “Utopía y algoritmos”, Almacén de Derecho, 2024, https://almacendederecho.org/utopia-y-algoritmos. En esta ocasión me posiciono a favor del profesor Huergo Lora, pues no considero necesario el acceso al código fuente en este supuesto concreto. Al tratarse de decisiones regladas cuya conformidad a Derecho es fácilmente verificable, el acceso al código fuente supone una medida excesiva e innecesaria.
11 Dispone el precepto de forma taxativa que “En todo caso, el ejercicio de las funciones que impliquen la participación directa o indirecta en el ejercicio de las potestades públicas o en la salvaguardia de los intereses generales del Estado y de las Administraciones Públicas corresponden exclusivamente a los funcionarios públicos, en los términos que en la ley de desarrollo de cada Administración Pública se establezca”.
12 Sobre los vicios de invalidez que pueden afectar a la actuación algorítmica me remito al apartado III de este estudio.
13 Un análisis sobre esta categoría de actos puede encontrarse en César CIERCO SEIRA, “Reflexiones sobre los actos de trámite cualificados”, Revista de Derecho Público: Teoría y método, 10, 2024, pp. 189-233.
14 ZANOBINI (1954: 312).
15 Por ejemplo, GARCÍA DE ENTERRÍA Y FERNÁNDEZ RODRÍGUEZ (2022: 591 y ss.); COSCULLUELA MONTANER (2022: 383 y ss.,); BERMEJO VERA (2016: 286 y ss.) o ÁLVAREZ GARCÍA y ARIAS APARICIO, (2022: 37 y ss.), entre muchos otros.
16 A pesar de la relevancia de la actividad informal de la Administración, lo cierto es que se trata de un ámbito que ha sido poco trabajado por la doctrina española. Para introducirse en este campo recomiendo la lectura de Eberhard SCHMIDT-ASSMANN, La teoría general del Derecho Administrativo como sistema, Marcial Pons/Instituto Nacional de Administración Pública, Madrid, 2003; José Luis CARRO FERNÁNDEZ-VALMAYOR y Marcos ALMEIDA CERREDA, “Sobre la llamada actividad informal de la administración pública”, en Régimen jurídico básico de las administraciones públicas: libro homenaje al profesor Luis Cosculluela / coord. por Manuel REBOLLO PUIG, Mariano LÓPEZ BENÍTEZ, Eloísa CARBONELL PORRAS; Luis COSCULLUELA MONTANER (hom.), Madrid, Iustel, 2015, pp. 393-412; Clara Isabel VELASCO RICO, “La actividad informal de la administración. Premisas para una tentativa de reconstrucción de una categoría (casi) olvidada”, Revista de Derecho Público: Teoría y método, 5, 2022, pp. 37-71; y Jorge GARCÍA-ANDRADE GÓMEZ, “Lección 20. Actuaciones sin procedimiento”, en Francisco VELASCO CABALLERO y Mercé DARNACULLETA GARDELLA (dirs.), Manual de Derecho Administrativo, 2ª ed. Marcial Pons, 2024, pp. 507-523.
17 En el ámbito tributario, es el art. 96 de la Ley 58/2003, de 17 de diciembre, General Tributaria el que regula la utilización de tecnologías informáticas y telemáticas. No obstante, la interpretación que la Administración Tributaria (AEAT) hace del apartado 4 del precepto ha supuesto que los sistemas algorítmicos más potentes no cuenten con la previa aprobación, ya que, según este organismo, «el art. 96.4 de la Ley General Tributaria no se refiere a cualquier aplicación informática sino sólo a aquellas utilizadas directamente “para el ejercicio de sus potestades” por la Administración, que son las que suponen una actuación automatizada (pues son las únicas aplicaciones que directamente se utilizan para el ejercicio de potestades de la Agencia Tributaria, en cuanto que como tal potestad tiene que producir efectos jurídicos actuales o potenciales frente a los ciudadanos, según la definición tradicional de potestades administrativas). Es decir, la utilización de aplicaciones informáticas de mero soporte en la actuación administrativa, como son aquellas sobre las que se ha planteado la solicitud, no están comprendidas en dicho precepto, sino únicamente las que directamente suponen el ejercicio de una potestad administrativa» (alegaciones de la AEAT contenidas en la Resolución 825/2019, de 13 de febrero de 2020, del Consejo de Transparencia y Buen Gobierno: p. 3).
18 A juicio de GAMERO CASADO, también se incluirían en el concepto de «actuación administrativa automatizada» las actuaciones dictadas en el marco de un procedimiento en el que intervenga un empleado público de forma indirecta (2023: p. 5).
19 En relación con la actividad material o técnica de la Administración, se ha sostenido con acierto la inexistencia de actos indiferentes para el Derecho (GARCÍA DE ENTERRIA y FERNÁNDEZ RODRÍGUEZ: p. 872).
20 Un excelente trabajo sobre el funcionamiento de los sistemas algorítmicos y su potencial discriminatorio puede encontrarse en la tesis doctoral de Alba SORIANO ARNANZ, “Posibilidades actuales y futuras para la regulación de la discriminación producida por algoritmos”, 2020. Disponible en https://hdl.handle.net/10550/77050.
21 Algunos autores, entre los que destaca el profesor HUERGO LORA, consideran que no deberían exigirse garantías adicionales por el solo hecho de que la actuación sea digital, cuando las mismas actuaciones no tengan consecuencias si las realiza un ser humano (2025: 43-44).
22 En este sentido, apunta en buena dirección CIERCO SEIRA al destacar, entre otros instrumentos, la importancia del uso de herramientas algorítmicas como mecanismo para controlar la arbitrariedad inspectora y reducir el margen de apreciación en la selección de potenciales infractores (2024: 39-40).
23 En mi opinión, lo peor que le puede ocurrir al ciudadano no es que la Administración se equivoque, sino que acierte y sea objeto de una sanción. Sanción esta que tiene su raíz en el uso de un potente sistema algorítmico que probablemente emplee técnicas discriminatorias y cuyo funcionamiento desconocemos.
24 A este respecto, señalaba con buen criterio el profesor BERMEJO VERA hace ya más de dos décadas que “… las funciones inspectoras ni son ilimitadas, en tiempo, forma y alcance, ni pueden ejercerse libre o discrecionalmente de modo absoluto, ni son practicables en todo el ámbito o materia o sector en que son factibles jurídicamente, ni son exigibles por terceros ad libitum. Por supuesto, tampoco pueden vulnerar las propias normas de procedimiento administrativo específico o general, ni las de protección de derechos fundamentales de los ciudadanos” (1998: 54).
25 En este sentido, se ha razonado que “Muchas de estas decisiones aproximativas están sometidas a un marco jurídico poco estricto, en el que no se exige apenas motivación. Son actos administrativos de trámite, no recurribles autónomamente, y, si se constata que la resolución del procedimiento es materialmente correcta (porque concurre su presupuesto de hecho), es difícil que un problema en el acto de iniciación dé lugar a la anulación de la resolución” (HUERGO LORA, 2023: 127). No puedo estar de acuerdo con este razonamiento. Si el interesado acredita que en las actuaciones previas que dieron lugar a la iniciación del procedimiento se vulneraron derechos fundamentales la consecuencia no puede ser otra que la nulidad radical de la resolución sancionadora. Lo contrario sería legitimar y reconocer una especie de “tierra sin ley” en la que la Administración puede campar a sus anchas sin atender a las exigencias que el Derecho le impone.
26 Sobre el particular, resulta sumamente ilustrativa la doctrina establecida por la STS 1181/2023, de 25 de septiembre de 2023, ECLI:ES:TS:2023:3748. La sentencia, que sienta jurisprudencia sobre los arts. 53 y 55 de la LPAC, reconoce en su FJ Séptimo, en primer lugar, la naturaleza de “procedimiento administrativo” de la información previa o reservada. Así, sostiene la Sala Tercera que “Asimismo, al tiempo de los hechos enjuiciados estaba vigente el artículo 53.1 de la Ley 39/2015 que regula los derechos de los interesados en un procedimiento administrativo, naturaleza que no puede negarse a la información previa o reservada, según el caso, sin que exista excepción expresa en la norma para su acceso”. En segundo lugar, y consecuencia lógica de lo anteriormente dispuesto, concluye la Sala a continuación que “De lo anteriormente argumentado ninguna duda ofrece que en la información reservada o información previa abierta respecto a un funcionario para determinar si posteriormente se incoa o no un procedimiento disciplinario tiene la condición de interesado en un procedimiento, conforme al artículo 4 de la Ley 39/2015”. Ergo, de la jurisprudencia expuesta (que a mi juicio tiene una proyección general) podemos afirmar tanto la naturaleza de procedimiento administrativo de las actuaciones previas del art. 55 LPAC como la condición de interesado en dicho procedimiento, lo que genera el derecho de acceso a todas las diligencias que consten en el expediente, ex art. 53.1. a) LPAC.
27 A tal efecto, FORTES MARTÍN propone con buen tino una interpretación amplia del artículo 41 LRJSP que integre “toda actuación administrativa con relevancia o consecuencias jurídicas” (2025: 403). No obstante, teniendo en cuenta la literalidad del precepto y a fin de facilitar la aplicación de la norma a los operadores jurídicos, lo adecuado sería ampliar el concepto a través de una reforma legislativa.
28 Noción que sigue muy presente en el legislador autonómico. Así, para el legislador valenciano la actuación administrativa automatizada tiene como fin principal “habilitar servicios que permitan la descarga telemática de acreditaciones de actos o actuaciones contemplados en su norma de creación, en los que no hay intervención directa del personal empleado público, y que estarán sujetos a los sistemas establecidos en la normativa reguladora de la administración electrónica” (art. 41.2 de la Ley Ley 6/2024, de 5 de diciembre, de simplificación administrativa).
29 Mucho me temo que si no se propone una ampliación del concepto de “actuación administrativa automatizada” a nivel normativo no serán pocas las situaciones en las que se empleen sistemas algorítmicos muy potentes en la Administración sin unas garantías adecuadas. Y ello con el argumento de que no nos encontramos ante un “sistema de inteligencia artificial” a la luz del RIA; de que las actuaciones no se han dictado en el marco de un procedimiento o, en última instancia, porque ha existido una “intervención humana” que impide subsumir la actuación en el concepto de “actuación administrativa automatiza”.
30 Por supuesto, con pleno respeto a los límites establecidos por la legislación sectorial.
31 Una muestra clara de la preponderancia de la eficacia de las actuaciones inspectoras frente a los derechos del ciudadano queda reflejada en el contenido de la Resolución del Consejo de Transparencia y Buen Gobierno 825/2019, de 13 de febrero de 2020. En síntesis, en la mencionada resolución se aplica el límite al derecho de acceso a determinada información de los programas de la Agencia Tributaria con base en la existencia de un supuesto perjuicio a las funciones administrativas de vigilancia, inspección y control [art. 14.1, letra g) de la Ley 19/2013]. Ahora bien, una cosa es el derecho de acceso a la información pública y otra muy distinta el derecho del interesado a obtener una copia de los documentos contenidos en el procedimiento. Procedimiento en el que, como ha establecido la precitada STS 1181/2023, de 25 de septiembre de 2023, ECLI:ES:TS:2023:3748, FJ Séptimo, se entienden comprendidas las actuaciones previas.
32 Real Decreto 1065/2007, de 27 de julio, por el que se aprueba el Reglamento General de las actuaciones y los procedimientos de gestión e inspección tributaria y de desarrollo de las normas comunes de los procedimientos de aplicación de los tributos.
33 De nuevo, aquí conviene distinguir la opacidad de los medios informáticos de la opacidad de los resultados arrojados por dichos medios. No niego que mantener el carácter reservado de algunas funciones o características del programa pueda estar justificado y sea lo deseable. Ahora bien, en modo alguno se puede defender el uso indiscriminado o arbitrario de este tipo de sistemas algorítmicos y la opacidad de sus resultados.
34 Aunque el término más adecuado sería el de “caja transparente” (pues el color blanco también es opaco), lo cierto es que en el campo de la programación se utiliza de forma generalizada el de “caja blanca” o white box, en contraposición a los sistemas opacos o de “caja negra”.
35 Puede accederse a un resumen sobre las funciones de esta categoría de sistemas en el siguiente enlace https://seon.io/es/recursos/glosario/caja-blanca-machine-learning/.
36 En la misma dirección se han pronunciado, con referencia a una extensa jurisprudencia nacional y europea sobre la materia, los profesores GARCÍA DE ENTERRÍA y FERNÁNDEZ RODRÍGUEZ (2022: 614) y MUÑOZ MACHADO (2015c: 67).
37 Para SÁNCHEZ MORÓN, la motivación supone una “manifestación y una exigencia del principio de transparencia y del derecho de los ciudadanos a la buena administración (art. 41.2 de la Carta de Derechos Fundamentales de la UE)” (2023: 546).
38 En el ámbito de los sistemas de inteligencia artificial que operan con técnicas basadas en aprendizaje automático no supervisado ya se habla de “codificadores automáticos dispersos”. Dichos codificadores permitirán conocer variables que hasta ahora permanecían ocultas, por lo que algunos desarrolladores están utilizándolos para entrenar sus modelos con la finalidad de dotarlos de una mayor transparencia y hacer explicables sus resultados. Una de las empresas que ya lo está haciendo es OpenAI. Pueden leer la noticia en https://www.xataka.com/robotica-e-ia/openai-acaba-emprender-camino-ambicioso-como-desafiante-entender-como-funciona-caja-negra-ia.
39 Un interesante estudio en defensa de la implementación de sistemas de inteligencia artificial para la toma de decisiones discrecionales puede encontrarse en Juan Carlos COVILLA, “Artificial Intelligence and Administrative Discretion: Exploring Adaptations and Boundaries”, European Journal of Risk Regulation, 16(1), 2025, pp. 36–50, doi:10.1017/err.2024.76.
40 Es en la esfera de la ética y la moral donde cobran sentido tesis como la propuesta por el profesor PONCE SOLÉ. El autor defiende la aplicación de un principio de “reserva de humanidad” (término propuesto por vez primera por la profesora Silvia DÍEZ SASTRE) para prohibir el uso de la IA en determinados ámbitos de la actuación administrativa con el argumento de que las máquinas carecen de empatía o de la capacidad de realizar inferencias abductivas (PONCE SOLÉ, 2024). A mi juicio, la apelación a la falta de empatía supone un claro ejemplo de limitación del uso de la IA por razones éticas, no jurídicas (aunque el autor ha tratado de integrar, forzosamente a mi parecer, la empatía en el derecho a una buena administración). Para profundizar en la cuestión, véase Juli PONCE SOLÉ, “Reserva de humanidad y supervisión humana de la Inteligencia artificial”, El Cronista del Estado Social y Democrático de Derecho, 100, 2022, pp. 58-67.
41 Para profundizar en la naturaleza constitucional del trámite de audiencia, recomiendo la lectura del comentario realizado por el profesor MESTRE DELGADO en Juan Francisco MESTRE DELGADO, “Artículo 105”, en Miguel RODRÍGUEZ-PIÑERO BRAVO-FERRER y María Emilia CASAS BAAMONDE (dirs.), Comentarios a la Constitución Española, Madrid, BOE-Wolters-Kluwer, 2018, pp. 489-494.
42 Sobre la naturaleza del derecho a una buena administración, véase el estudio monográfico realizado por el profesor PONCE SOLÉ, La lucha por el buen gobierno y el derecho a una buena administración mediante el estándar jurídico de diligencia debida, Editorial Universidad de Alcalá, 2019.
43 En otro trabajo ya tuve la ocasión de pronunciarme sobre la necesidad de reconocer un principio de “presunción de falibilidad” de los sistemas algorítmicos como una nueva garantía procedimental que garantice el trámite de audiencia y la supervisión humana en procedimientos automatizados. Sobre la necesidad y los fundamentos de dicho principio, véase Jesús A. TAHIRÍ MORENO, “El principio de presunción de falibilidad de las decisiones algorítmicas desfavorables: Una nueva garantía jurídica frente a las decisiones automatizadas y el uso de sistemas de inteligencia artificial en la Administración Pública”, Revista Aragonesa de Administración Pública, 60, 2023, pp. 188-214.
Con la finalidad de positivizar este principio, el profesor BERMEJO LATRE ha propuesto la posibilidad de reformar el art. 39.1 de la LPAC para exceptuar la presunción de validez de los actos administrativos automatizados que hayan sido dictados mediante sistemas de IA que carezcan de las notas de transparencia e interpretabilidad (BERMEJO LATRE, 2025: 238). Junto a esta reforma, propone también la articulación de una especie de “derecho de oposición a la tramitación del procedimiento de forma automatizada o semiautomatizada”, en términos similares a la oposición del interesado a la tramitación simplificada del procedimiento, ex art. 96.2 LPAC.
44 Un análisis actualizado de la configuración del principio de buena administración como derecho subjetivo en nuestro ordenamiento jurídico-administrativo pueden encontrarlo en Jesús A. TAHIRÍ MORENO y Lucía COFRADES AQUILUÉ, “Déficits y excesos normativos en materia de transparencia, buena administración y buen gobierno: un análisis de la cuestión a partir de la legislación estatal y extremeña”, Revista De Estudios De La Administración Local y Autonómica, 22, 2024, pp. 92–117. https://doi.org/10.24965/reala.11350.
45 En palabras del profesor MUÑOZ MACHADO, la adopción de la Constitución Española del 78 supuso el “derrumbamiento del sentido legicentrista de la legalidad” (2015b: 56).
46 Sobre el principio de juridicidad, véase Santiago MUÑOZ MACHADO, Tratado de Derecho Administrativo y Derecho Público General. Tomo III. Los principios de constitucionalidad y legalidad, 4ª ed. Boletín Oficial del Estado, 2015a, pp. 101-103.
47 Una tesis favorable a la atribución de naturaleza reglamentaria a los sistemas algorítmicos empleados por la Administración fue propuesta por el profesor BOIX PALOP en su artículo “Los algoritmos son reglamentos: La necesidad de extender las garantías propias de las normas reglamentarias a los programas empleados por la Administración para la adopción de decisiones”, Revista de Derecho Público: Teoría y método, 1, 2020, pp. 223-270. El autor pretende con su teoría que los programas informáticos de la Administración sean sometidos a los mismos requisitos de transparencia que las disposiciones reglamentarias. No obstante, considero que, pese a lo loable de sus intenciones, los efectos perniciosos que supondría atribuir valor normativo a estos sistemas superarían con creces los efectos positivos. Una opción alternativa es que el legislador básico estatal obligue a la Administración a utilizar únicamente sistemas de “caja blanca” cuyos resultados sean fácilmente fiscalizables. Otro trabajo muy interesante a nivel dogmático puede encontrarse en Vicente ÁLVAREZ GARCÍA, “La naturaleza jurídica de los algoritmos”, El Cronista del Estado Social y Democrático de Derecho, 114, 2024, pp. 42-47. En este estudio el autor sostiene que los algoritmos poseen la misma naturaleza que las normas técnicas. En contra de la naturaleza normativa de los algoritmos se han pronunciado, entre otros autores, HUERGO LORA (2020: 64-67); GAMERO CASADO (2023: 6) y ARROYO JIMÉNEZ (2020).
48 Dispone el artículo que “1.Toda persona que se vea afectada por una decisión que el responsable del despliegue adopte basándose en los resultados de salida de un sistema de IA de alto riesgo que figure en el anexo III, con excepción de los sistemas enumerados en su punto 2, y que produzca efectos jurídicos o le afecte considerablemente del mismo modo, de manera que considere que tiene un efecto perjudicial para su salud, su seguridad o sus derechos fundamentales, tendrá derecho a obtener del responsable del despliegue explicaciones claras y significativas acerca del papel que el sistema de IA ha tenido en el proceso de toma de decisiones y los principales elementos de la decisión adoptada.
2. No se aplicará el apartado 1 a la utilización de sistemas de IA para los que existan excepciones o restricciones a la obligación prevista en dicho apartado derivadas del Derecho de la Unión o nacional de conformidad con el Derecho de la Unión.
3. El presente artículo se aplicará únicamente en la medida en que el derecho a que se refiere el apartado 1 no esté previsto de otro modo en el Derecho de la Unión”.
49 Entre los sistemas de IA vinculados al ejercicio de potestades administrativas, destacan los “Sistemas de IA destinados a ser utilizados por las autoridades públicas o en su nombre para evaluar la admisibilidad de las personas físicas para beneficiarse de servicios y prestaciones esenciales de asistencia pública, incluidos los servicios de asistencia sanitaria, así como para conceder, reducir o retirar dichos servicios y prestaciones o reclamar su devolución” (punto 5, letra a) del Anexo III RIA). También afectan a la actuación administrativa los sistemas destinados a la garantía del cumplimiento del Derecho (punto 6 del Anexo III RIA) y los relativos a la migración, el asilo y el control fronterizo (punto 7 del Anexo III RIA).
50 En relación con el alcance del derecho a una explicación, sostiene JIMÉNEZ LÓPEZ que el artículo 86 “se refiere a solicitar al implementador «explicaciones claras y significativas sobre el papel del sistema de IA en el procedimiento de toma de decisiones y los principales elementos de la decisión adoptada» de modo que proporciona una base para que «ejerzan sus derechos» (Considerando 171)” (2024: 175).
51 Enmienda 630 del texto Enmiendas aprobadas por el Parlamento Europeo el 14 de junio de 2023 sobre la propuesta de Reglamento del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas en materia de inteligencia artificial (Ley de Inteligencia Artificial) y se modifican determinados actos legislativos de la Unión (COM(2021)0206 – C9-0146/2021 – 2021/0106(COD)).
52 Siguiendo la interpretación de la Comisión, entre los sistemas que operan con inteligencia artificial que quedan fuera del concepto jurídico de “sistema de IA” se encuentran, entre otros, los sistemas que operen con técnicas de IA basadas en la heurística clásica (v.g., el famoso programa de ajedrez Deep Blue) y los sistemas de predicción simples (v.g., los sistemas de predicción de los precios futuros de las acciones), aun cuando estos utilicen técnicas de aprendizaje automático (punto 5.2. del proyecto de Directrices de la Comisión sobre la definición de sistema de inteligencia artificial).
53 Cuestión no menor, habida cuenta del estrecho objeto del RGPD, cuyas normas de protección se aplican en exclusiva a las personas físicas, ex art. 1 RGPD.
54 Interpretación que probablemente se replique en el supuesto de que al TJUE le toque examinar el artículo 86 del RIA, en la medida en que la redacción de ambos preceptos, en lo que respecta a los efectos jurídicos de las decisiones, es muy similar, por no decir idéntica. Así, el art. 22 RGPD que ha sido objeto de interpretación, hace referencia a decisiones que produzcan efectos jurídicos en el interesado o le afecten de forma similar, mientras que el art. 86.1 RIA alude a una decisión que “produzca efectos jurídicos o le afecte considerablemente del mismo modo”.
55 Una muestra de la proyección general y las posibilidades de este principio podemos encontrarla en José María GIMENO FELIU, Hacia una buena administración desde la contratación pública. De la cultura de la burocracia y el precio a la de la estrategia y el valor de los resultados, Marcial Pons, 2024.