El marco jurídico regulatorio europeo de la inteligencia artificial. La relación de complementariedad entre el reglamento de la UE y la convención marco del Consejo de Europa

• Pages: 9-41
• Date: 01 October 2024
• Published date: 01 October 2024
• Author: Mario Hernández Ramos
• Subject Matter: Derecho Comunitario

Revista Española de Derecho Europeo

92 | Octubre – Diciembre 2024

pp. 9-41

Madrid, 2024

DOI: 10.37417/REDE/num92_2024_2670

© Marcial Pons Ediciones Jurídicas y Sociales

© Mario Hernández Ramos

ISSN: 1579-6302

Recibido: 16/09/2024 | Aceptado: 14/10/2024

EL MARCO JURÍDICO REGULATORIO EUROPEO

DE LA INTELIGENCIA ARTIFICIAL.

LA RELACIÓN DE COMPLEMENTARIEDAD

ENTRE EL REGLAMENTO DE LA UE

Y LA CONVENCIÓN MARCO DEL CONSEJO DE EUROPA

THE EUROPEAN REGULATORY LEGAL FRAMEWORK

FOR ARTIFICIAL INTELLIGENCE. THE COMPLEMENTARY

RELATIONSHIP BETWEEN THE EU REGULATION

AND THE COUNCIL OF EUROPE FRAMEWORK CONVENTION

Mario Hernández Ramos*

RESUMEN: La inteligencia articial es una tecnología que está afectando a todos los

niveles de una manera profunda. Es imprescindible que su utilización y los efec-

tos que produce sean objeto de regulación tanto para limitar sus riesgos e impac-

tos como para centrar su desarrollo en la dignidad humana. Europa ha tomado

la iniciativa regulatoria, por parte de sus dos organizaciones más signicativas

desde el punto de vista de los derechos fundamentales: la Unión Europea y el

Consejo de Europa. Ambas han aprobado en 2024 de manera paralela dos normas

que entendemos perfectamente complementaria: el Reglamento de inteligencia

articial de la Unión Europea y la Convención Marco sobre inteligencia articial

y derechos humanos, democracia y Estado de Derecho.

* Profesor Titular de Derecho Constitucional, Universidad Complutense de Ma-

drid, marioh13@ucm.es Número ORCID 0000-0003-3869-192X.

Trabajo realizado en el marco del proyecto de investigación “Fortalecimiento de la

democracia y el Estado de Derecho a través de la inteligencia articial” nanciado por

el Ministerio de Ciencia e Innovación (referencia PID2021-122677NB-I00).

10 MARIO HERNÁNDEZ RAMOS

Revista Española de Derecho Europeo 92 | Octubre – Diciembre 2024

PALABRAS CLAVE: inteligencia articial; convención marco, Unión Europea; con-

sejo de Europa.

ABSTRACT: Articial intelligence is a technology that is affecting all levels in a pro-

found way. It is imperative that its use and the effects it produces are subject to

regulation both to limit its risks and impacts and to focus its development on

human dignity. Europe has taken the regulatory initiative through its two most

signicant organisations from the point of view of fundamental rights: the Euro-

pean Union and the Council of Europe. Both have adopted in 2024 in parallel two

regulations that we understand to be perfectly complementary: the EU Regulation

on Articial Intelligence and the Framework Convention on Articial Intelligence

and Human Rights, Democracy and the Rule of Law.

KEYWORDS: articial intelligence; framework convention; European Union; council

of Europe;

SUMARIO: INTRODUCCIÓN.— 1. PANORAMA REGULATORIO GENERAL DE LA

IA: 1.1. Las iniciativas de soft law; 1.2. Las iniciativas de hard law. El protago-

nismo europeo.— 2. SEMEJANZAS: 2.1. Objetivo. Regular los efectos de la IA

desde la dignidad humana; 2.2. Enfoque. La evaluación del riesgo y del impacto

de la IA; 2.3. Denición de IA; 2.4. Limitaciones en el ámbito de aplicación.— 3.

DIFERENCIAS: 3.1. Base y naturaleza jurídica; 3.2. Ámbito de aplicación; 3.3.

Contenido: especicación de los sistemas prohibidos y de alto riesgo. Creación

de un sistema de gobernanza: 3.3.1. Diferencias de contenido; 3.3.2. Prácticas

prohibidas y de alto riesgo; 3.3.3. Sistema de gobernanza. 3.5. Entrada en vigor y

aplicabilidad.— 4. RELACIÓN DE COMPLEMENTARIEDAD ENTRE LOS DOS

INSTRUMENTOS.— 5. CONCLUSIÓN.— BIBLIOGRAFÍA

INTRODUCCIÓN

El surgimiento de nuevas tecnologías, especialmente con un gran poten-

cial para alterar cualquier componente o elemento de una sociedad de una

manera signicativa como es el caso de la inteligencia articial (en adelante

IA) demanda la creación de una regulación jurídica en aras de la seguridad

jurídica, del principio de legalidad y de la observancia de los derechos funda-

mentales de la ciudadanía. No en vano esta tecnología es la protagonista de

la Cuarta Revolución industrial en la que nos encontramos 1.

Los problemas jurídicos ocasionados por la ausencia de regulación de

Internet durante los primeros años de su existencia, tanto a nivel nacio-

nal como internacional, ayudaron a extraer algunas conclusiones que es-

tán siendo tenidas en cuenta para regular la IA. Por ejemplo, el carácter

1 Véase, por ejemplo, XU, M., David, J. M., & KIM, S. H., “The fourth industrial

revolution: Opportunities and challenges”, International journal of nancial research,

n. 9(2), 2018, pp.90-95.

EL MARCO JURÍDICO REGULATORIO EUROPEO DE LA INTELIGENCIA ARTIFICIAL.… 11

Revista Española de Derecho Europeo 92 | Octubre – Diciembre 2024

transnacional de los efectos de la IA ha sido objeto de mucho menos debate

como el que suscitó la regulación de Internet. En efecto, hay pocas dudas de

que una regulación nacional sobre sistemas de IA no sería muy útil debido

precisamente al mencionado carácter transnacional de sus efectos. Tanto

las empresas como los operadores tecnológicos han demandado insisten-

temente unas reglas comunes que enmarquen su actividad y sobre todo su

labor de innovación y desarrollo, estableciendo una igualdad de condicio-

nes para la competencia ente ellas (level playing eld) a nivel mundial o al

menos lo más amplio posible.

Se ha sucedido de esta manera una multitud de ejercicios regulatorios

desde diferentes disciplinas, niveles y perspectivas en consonancia con el ca-

rácter transversal, horizontal y transfronterizo de la IA.

En este trabajo, tras ofrecer una panorámica muy breve del escenario re-

gulatorio mundial, nos centraremos en explicar y comparar las dos normas

más avanzadas y jurídicamente vinculantes que ya han sido aprobadas y es-

tán en proceso de entrar en vigor y ser aplicables en el escenario de las demo-

cracias occidentales. Ambas son europeas.

La primera, se trata del Reglamento de la UE en materia de IA, o Regla-

mento de IA, (en adelante Reglamento) publicado en el Diario Ocial de la

UE el 12 de julio de 2024 2. La segunda es la Convención Marco del Consejo de

Europa sobre inteligencia articial, derechos humanos, democracia y Estado

de Derecho (en adelante Convención Marco) 3. Tras analizar las semejanzas y

diferencias entre ambas, se apuntará la interesante relación de complementa-

riedad que permitirá que en el territorio europeo el uso de los sistemas de IA

esté sometidos a una regulación garantista con los derechos fundamentales

de las personas, los principios del Estado de Derecho y las instituciones y

procesos democráticos.

2 REGLAMENTO (UE) 2024/1689 DEL PARLAMENTO EUROPEO Y DEL CON-

SEJO de 13 de junio de 2024 por el que se establecen normas armonizadas en ma-

teria de inteligencia articial y por el que se modican los Reglamentos (CE) no.

300/2008, (UE) no 167/2013, (UE) no 168/2013, (UE) 2018/858, (UE) 2018/1139 y (UE)

2019/2144 y las Directivas 2014/90/UE, (UE) 2016/797 y (UE) 2020/1828 (Reglamento

de Inteligencia Articial).

3 Convención Marco del Consejo de Europa sobre inteligencia articial, derechos

humanos, democracia y Estado de Derecho, CETS n. 225, 5 de septiembre de 2024,

accesible en https://rm.coe.int/1680afae3c