Vol. 9 (2024): Discrecionalidad y deferencia
Artículos

Inteligencia Artificial, decisiones administrativas discrecionales totalmente automatizadas y alcance del control judicial: ¿indiferencia, insuficiencia o deferencia?

Juli Ponce Solé
Universidad de barcelona

Publicado 2024-05-31

Palabras clave

  • inteligencia artificial,
  • discrecionalidad,
  • supervisión humana,
  • control judicial,
  • reserva de humanidad,
  • deferencia
  • ...Más
    Menos

Los autores mantienen los derechos de autor en la publicación y sólo autorizan a la editorial Marcial Pons los derechos no exclusivos de la publicación y distribución de los artículos

Resumen

El objeto de este artículo se centra en las posibilidades y límites de la adopción totalmente automatizada de decisiones administrativas discrecionales, el papel de la supervisión humana y el alcance e intensidad del control judicial de dichas decisiones. El estudio se detiene brevemente en la explicación de algunos conceptos esenciales vinculados a la IA para clarificar su uso en este análisis. Entre ellos, se realiza un breve análisis del concepto tradicional de discrecionalidad administrativa en España, poniendo de relieve su falta de profundidad y la necesidad de repensarlo a la luz de la buena administración. A partir de aquí, se abordan cuáles son los límites jurídicos de la IA y cómo deberían conducir a evitar su uso para la automatización total del ejercicio de potestades discrecionales, en el estado actual de la técnica. Esa limitación conduce a lo que se denomina una reserva de humanidad, que se desarrolla a continuación.  Finaliza el análisis exponiendo la adaptación de las técnicas de control judicial al ejercicio de potestades administrativas con IA, los posibles problemas de indiferencia e insuficiencia que puede tener dicho control judicial y el nivel de intensidad de control judicial que debiera desarrollarse.

Descargas

Los datos de descargas todavía no están disponibles.

Citas

  1. ALAMILLO, I. y URIÓS, F. X., La actuación administrativa automatizada en el ámbito de las administraciones públicas. Análisis jurídico y metodológico para la construcción y la explotación de trámites automáticos, Generalitat de Catalunya, 2011. Disponible en: L’actuació administrativa automatitzada en l’àmbit de les Administracions Públiques (gencat.cat)
  2. ATIENZA, M., Sobre la dignidad humana, Trotta, Madrid, 2022.
  3. ATIENZA, M., “Siete Tesis sobre el Activismo Judicial”, Grand place: pensamiento y cultura, núm. 10, 2018.
  4. AUBY, J-B and PERROUD, T., “Introduction”, en AUBY, J-B and PERROUD, T. (Eds.), Regulatory Impact Assesment, INAP, GLP, 2013.
  5. BACIGALUPO, M., “La vinculación de la Administración Pública a la Ley y al Derecho”, en VELASCO, F. y DARNACULLETA, M., Manual de Derecho Administrativo, Marcial Pons, 2023.
  6. BOIX PALOP, A., “Los algoritmos son reglamentos: La necesidad de extender las garantías propias de las normas reglamentarias a los programas empleados por la administración para la adopción de decisiones”, en Revista de Derecho Público. Teoría y Método, núm. 1, 2020, pp. 223-269.
  7. BRENT, J., Charles Sanders Pierce. A life, Indiana University Press, 1993.
  8. BRIDLE, J., La nueva edad oscura: la tecnología y el fin del futuro, Debate, 2020.
  9. COBBE, J., “Administrative law and the machines of government: Judicial review of automated public-sector decision-making” Legal Studies, 39(4), 636-655, 2019.
  10. COGLIANESE, C., “Administrative Law in the Automated State”, 150 Daedalus 104, 2021.
  11. COGLIANESE, C. y LAI, A., “Algorithm vs. Algorithm”, Faculty Scholarship at Penn Law. 2795, 2022.
  12. CONSEJO DE EUROPA, Artificial Intelligence and Administrative Law, 2022, disponible en: 4cb20e4b-3da9-d4d4-2da0-65c11cd16116 (coe.int).
  13. COTINO HUESO, L., ““’SyRI, ¿a quién sanciono?’ Garantías frente al uso de inteligencia artificial y decisiones automatizadas en el sector público y la sentencia holandesa de febrero de 2020”, La Ley Privacidad, Wolters Kluwer nº 4, mayo, 2020.
  14. CRAIG, P., Administrative Law, Sweet and Maxwell, Thompson Reuters, 9th edition, 2021.
  15. CHAMORRO DOMÍNGUEZ, M.C, “La aplicación de sistemas de inteligencia artificial en el seno del órgano de administración de las sociedades de capital”, Revista de Derecho de Sociedades, núm. 59, mayo-agosto, 2020.
  16. DAMASIO, A, Sentir y Saber, Destino, 2021.
  17. DAMASIO, A., El error de Descartes, Andrés Bello, 1994.
  18. DE LARRUECA, R., “La contradicción en el dictamen pericial: tratamiento conceptual de la sana crítica y efectos prácticos”, Diario LA LEY, núm. 7494 13413/2010, 2010.
  19. DELLA CANANEA, G., “The ‘Core’ of Administrative Law: an Outsider’s View”, BACL, 2022. Disponible en: https://british-association-comparative-law.org/?p=4543.
  20. DE LA SIERRA, S.,“Inteligencia artificial y justicia administrativa: una aproximación desde la teoría del control de la Administración Pública”, Revista General de Derecho Administrativo, enero, 2020.
  21. DOMÈNECH, G.,“El juego del legislador, la Administración y el Juez”, en Coordinadores Rodríguez De Santiago, José María, Doménech Pascual, Gabriel y Arroyo Jiménez, Luis, Tratado de Derecho Administrativo, Marcial Pons, 2021.
  22. GALLONE, G., Riserva di Umanità e Funzione Amministrative, Wolters Kluwers, CEDAM, 2023.
  23. GAMERO CASADO, E., “Las garantías de régimen jurídico del sector público y del procedimiento administrativo común frente a la actividad automatizada y la inteligencia artificial”, en Inteligencia artificial y sector público: retos, límites y medios, coord. por Eduardo Gamero Casado, Francisco Luis Pérez Guerrero, 2023, págs. 397-461.
  24. GONZÁLEZ NAVARRO, F., “Procedimiento administrativo común, procedimientos triangulares y procedimientos complejos”, Revista de Estudios de La Administración Local y Autonómica, (211), 1981, pp. 407–454.
  25. HAUSER, C., “From Preaching to Behavioral Change: Fostering Ethics and Compliance Learning in the Workplace,” Journal of Business Ethics, Springer, vol. 162(4), 2020, pp. 835-855.
  26. HOFMANN, HCH., “The Duty of Care in EU Public Law–A Principle Between Discretion and Proportionality”, Review of European Administrative Law, vol. 13, no 2, 2020, p. 87-112.
  27. HUERGO LORA, “El derecho de transparencia en el acceso a los códigos fuente”, en Anuario de Transparencia Local, 5/2022, Fundación Democracia y Gobierno Local, 2023, pp. 35 y ss.
  28. HUYS, V., “L’Abduction ou le risque interprétatif », Revue Recherches sur la Philosophie et le Langage, núm. 34 - Abduction, sous la direction de Rémi Clot-Goudard, Viviane Huys et Denis Vernant, 2018.
  29. KAHNEMAN, D., SIBONY, O., SUNSTEIN, C., Ruido: Un fallo en el juicio humano, Debate, 2021.
  30. LAGUNA DE PAZ, J.C., “El control judicial de la discrecionalidad administrativa”, Revista española de Derecho Administrativo, núm. 186, 2017.
  31. LARSON, E.J., The Myth of Artificial Intelligence: Why Computers Can’t Think the Way We Do, Belknap Press: An Imprint of Harvard University Press, 2021.
  32. LEINS, K y KASPERSEN, A., “7 Myths of Using the Term “Human on the Loop”: “Just What Do You Think You Are Doing, Dave?”: Seven Myths of Using the Term “Human on the Loop”: “Just What Do You Think You Are Doing, Dave?” | Carnegie Council for Ethics in International Affairs, 2021.
  33. LEVIN, R. M. & GELLHORN, E., Administrative law and process in a nutshell, 5th Edition, 2007.
  34. LICKELIDER J.C.R., “Man-Computer symbiosis”, IRE Transactions on Human Factors in Electronics, volume HFE-1, pages 4-11, March, 1960.
  35. MATTHIEU, R., En defensa del altruismo, Urano, 2016.
  36. McCANN, S., “Discretion in the Automated State”, The Canadian Journal of Law & Jurisprudence, 2023, pp. 1 y ss.
  37. MAN, K.; DAMASIO, A., “Homeostasis and soft robotics in the design of feeling machines”, Nature Machine Intelligence, vol. 1, núm. 10, 2019, p. 446-452.
  38. MARCHETTI, B.,“La garanzia dello human in the loop alla prova della decisione amministrativa algorítmica”, BioLaw Journal – Rivista di BioDiritto, núm. 2/2021, 2021.
  39. MARTÍN DELGADO, I., “Naturaleza, concepto y régimen jurídico de la actuación administrativa automatizada”, Revista de administración pública, núm. 180, 2009, págs. 353-386.
  40. MARTÍNEZ, N., AGUDO, U. y MATUTE, H., “Human cognitive biases present in Artificial Intelligence”, Revista Internacional de los Estudios Vascos, 67, 2, 2022. Disponible en: Human cognitive biases present in Artificial Intelligence | Riev, International Journal on Basque Studies (eusko-ikaskuntza.eus).
  41. MATHEWS, J., “Searching for Proportionality in US Administrative Law”, Legal Studies Research Paper number 1-2015, Penn State Law, 2015. Disponible en : http://papers.ssrn.com/sol3/papers.cfm?abstract_id=2561583.
  42. MÉDIATEUR FÉDÉRAL, Rapport d’activités, 2021. Disponible en : Rapport annuel 2021.pdf (federaalombudsman.be).
  43. MENÉNDEZ, E., Las garantías del interesado en el procedimiento administrativo electrónico, Tirant Lo Blanch, 2017.
  44. MORAL SORIANO, L., “Decisiones automatizadas, Derecho administrativo y argumentación jurídica”, en LLANO, F.H. (Dr.), GARRIDO, J. y VALDIVIA, R., (Coords.), Inteligencia artificial y filosofía del Derecho, Laborum, 2022.
  45. MÚÑOZ ARANGUREN, A., “La influencia de los sesgos cognitivos en las decisiones jurisdiccionales: el factor humano. Una aproximación”, InDret, abril, 2011.
  46. NIETO, A., “El arcano de la discrecionalidad”, estudio preliminar a REBOLLO, M, HUERGO, A, GUILLÉN, J, CAMPO, T., Anuario del Derecho Administrativo Sancionador 2021, Civitas Thompson Reuters, 2021, pp. 27 y ss.
  47. NIETO, A. y SÁNCHEZ, R.M., La equidad judicial, Colex, 2022.
  48. PASTOR, A. y NOGALES, P., “El futuro del trabajo en la administración pública ¿estamos preparados?” Revista Vasca de Gestión de Personas y Organizaciones Públicas, núm. extra 3, 2019, págs. 34-51.
  49. PONCE SOLÉ, J., Deber de buena administración y derecho al procedimiento administrativo debido. Las bases constitucionales del procedimiento administrativo y del ejercicio de la discrecionalidad, Lex Nova, 2001.
  50. PONCE SOLÉ, J., “La discrecionalidad no puede ser arbitrariedad y debe ser buena administración, Revista española de derecho administrativo, núm. 175, 2016, págs. 57-84.
  51. PONCE SOLÉ, J., “Inteligencia Artificial, Derecho administrativo y reserva de humanidad: algoritmos y procedimiento administrativo debido tecnológico”, Revista General de Derecho Administrativo, núm. 1, enero, 2019.
  52. PONCE SOLÉ, J., La lucha por el buen gobierno y el derecho a una buena administración mediante el estándar jurídico de diligencia debida, UAH-Defensor del Pueblo, 2019b.
  53. PONCE SOLÉ, J., Mejora de la Regulación, Lobbies y Huella Normativa, Tirant Lo Blanch, 2019c.
  54. PONCE SOLÉ, J.,”La buena administración y el buen gobierno: la crisis de la Covid-19 y las nuevas tendencias en el Derecho administrativo y en el control judicial del poder ejecutivo”, Jueces para la democracia, º núm., 102, 2021, págs. 5-20.
  55. PONCE SOLÉ, J., “Reserva de humanidad y supervisión humana de la Inteligencia artificial”, El Cronista del Estado Social y Democrático de Derecho, núm. 100, 2022.
  56. PONCE SOLÉ, J., Acicates (Nudges), buen gobierno y buena administración. Aportaciones de las ciencias conductuales, nudging y sectores público y privado, Marcial Pons, Madrid, 2022 b.
  57. PONCE SOLÉ, J., “Las relaciones entre inteligencia artificial, regulación y ética, con especial atención al sector público”, Revista General de Derecho Administrativo, núm. 61, 2022c.
  58. PONCE SOLÉ, J. (2023): “Seres humanos e inteligencia artificial: discrecionalidad artificial, reserva de humanidad y supervisión”, en Eduardo Gamero Casado (coord.), Francisco Luis Pérez Guerrero (coord.) Inteligencia artificial y sector público: retos, límites y medios, Tirant Lo Blanch.
  59. PONCE SOLÉ, J. (2023b): “El derecho a una buena administración, su exigencia judicial y el privilegio de ejecutoriedad de los actos administrativos. A propósito de la Sentencia de la Sala 3ª del Tribunal Supremo 1421/2020, de 28 de mayo de 2020, recurso de casación 5751/2017”, Revista de Administración Pública, núm. 221, 163-182.
  60. PONCE SOLÉ, J., Manual de Fonaments del Dret Administratiu i de la Gestió Pública, Tirant Lo Blanch, València, 4ª edición, 2023c.
  61. PONCE SOLÉ, J. y VILLORIA MENDIETA, M., Anuario del Buen Gobierno y de la Calidad de la Regulación, Fundación Democracia y Gobierno Local, 2020, 2021, 2022 y 2023.
  62. PULLMAN LE, REFAIE N, LALUMIÈRE ML, KRUPP D., ” Is Psychopathy a Mental Disorder or an Adaptation ? Evidence From a Meta-Analysis of the Association Between Psychopathy and Handedness”. Evolutionary Psychology, October, 2021.
  63. RANCHORDAS, S.,“Experimental Regulations for AI: Sandboxes for Morals and Mores”, University of Groningen Faculty of Law, Research Paper núm. 7/2021, 2021.
  64. RANCHORDAS, S.,“Empathy in the digital administrative state”, Duke Law Journal, Forthcoming, University of Groningen Faculty of Law, Research Paper, 2022, núm. 13.
  65. REAL ACADEMIA ESPAÑOLA et al. Diccionario Panhispánico del Español Jurídico. Disponible en: Diccionario panhispánico del español jurídico - Real Academia Española (rae.es), 2023.
  66. REIS DE ALBURQUERQUE, A. y DE BRITO MACHADO SEGUNDO, H., “A perspectiva evolutive e o problema da relaçao corpo-mente: qual o impacto da ausécia do instinto, d as emoçoés e do Nao consciente no processo decisório?”, en PEDRO, R. y CALIENDO, P. (Coords), Inteligência artificial no contexto do Direito público: Portugal e Brasil, Almedina, 2023.
  67. RODRÍGUEZ PONTÓN, F., “El control judicial en el ámbito de la regulación económica: Comisión Nacional de los Mercados y la Competencia (CNMC) y Comisión Nacional del Mercado de Valores (CNMV) un relato de la deferencia en el marco del Derecho común europeo”, en MALARET, E. (Coord.), Autonomía Administrativa, decisiones cualificadas y deferencia judicial, Thompson Reuters Aranzadi, 2019.
  68. SOM, C., HILTY, L.M and KÖHLER, A.R., “The Precautionary Principle as a Framework for a Sustainable Information Society”, Journal of Business Ethics, 85, 2009 :493–505.
  69. TORCHIA, L.,Lo Stato Digitale, Il Mulino, 2023.
  70. TRIANA REYES, B., “¿Vale de algo la prueba pericial en la jurisdicción contencioso-administrativa?”, Actualidad administrativa, núm. 6, junio, 2016.
  71. TRUMBULL IV, C.P., “Autonomous Weapons: How Existing Law Can Regulate Future Weapons”, Emory International Law Review, vol. 34, núm. 2, 2020, pp. 539 y ss.
  72. VAQUER, M., “La Humanidad del Derecho Administrativo de nuestro tiempo”, Revista de Administración Pública, núm. 222, 2023, pp. 33 y ss.
  73. WEIZENBAUM, J., Computer power and human reason: From judgment to calculation, W. H. Freeman & Co, 1976, traducido al español un año más tarde con el título La frontera entre el ordenador y la mente, Ed. Pirámide, S.A. Madrid. 1977.
  74. WILLIAMS, R., “Rethinking Deference for Algorithmic Decision-Making”, Oxford Legal Studies Research Paper No. 7/2019, 2019.