Resolución del Parlamento Europeo, de 19 de mayo de 2021, sobre la inteligencia artificial en los sectores educativo, cultural y audiovisual (2020/2017(INI))

• Section: Serie C
• Issuing Organization: Parlamento Europeo

12.1.2022 ES Diario Oficial de la Unión Europea C 15/28

— Vista la Carta de los Derechos Fundamentales de la Unión Europea (en lo sucesivo, «Carta»),

— Vistos los artículos 165, 166 y 167 del Tratado de Funcionamiento de la Unión Europea,

— Vistas las Conclusiones del Consejo, de 9 de junio de 2020, sobre la configuración del futuro digital de Europa (1),

— Visto el Dictamen del Comité Económico y Social Europeo, de 19 de septiembre de 2018, titulado «La brecha digital de género» (2),

— Vista la propuesta de la Comisión de Reglamento del Parlamento Europeo y del Consejo, de 6 de junio de 2018, por el que se establece el programa Europa Digital para el período 2021-2027 (COM(2018)0434),

— Vista la Comunicación de la Comisión, de 30 de septiembre de 2020, titulada «Plan de Acción de Educación Digital 2021-2027 — Adaptar la educación y la formación a la era digital» (COM(2020)0624),

— Vista la Comunicación de la Comisión, de 30 de septiembre de 2020, relativa a la consecución del Espacio Europeo de Educación de aquí a 2025 (COM(2020)0625),

— Visto el informe de la Comisión, de 19 de febrero de 2020, sobre las repercusiones en materia de seguridad y responsabilidad civil de la inteligencia artificial, el internet de las cosas y la robótica (COM(2020)0064),

— Visto el Libro Blanco de la Comisión, de 19 de febrero de 2020, titulado «Inteligencia artificial — Un enfoque europeo orientado a la excelencia y la confianza» (COM(2020)0065),

— Vista la Comunicación de la Comisión, de 19 de febrero de 2020, titulada «Una Estrategia Europea de Datos» (COM(2020)0066),

— Vista la Comunicación de la Comisión, de 25 de abril de 2018, titulada «Inteligencia artificial para Europa» (COM(2018)0237),

— Vista la Comunicación de la Comisión, de 17 de enero de 2018, sobre el Plan de Acción de Educación Digital (COM(2018)0022),

— Visto el informe del Grupo de expertos de alto nivel sobre inteligencia artificial de la Comisión, de 8 de abril de 2019, titulado «Directrices éticas para una IA fiable»,

— Vista su Resolución, de 12 de febrero de 2019, sobre una política industrial global europea en materia de inteligencia artificial y robótica (3),

— Vista su Resolución, de 11 de septiembre de 2018, sobre la igualdad lingüística en la era digital (4),

— Vista su Resolución, de 12 de junio de 2018, sobre la modernización de la educación en la Unión (5),

— Vista su Resolución, de 16 de febrero de 2017, con recomendaciones destinadas a la Comisión sobre normas de Derecho civil sobre robótica (6),

— Vista su Resolución, de 1 de junio de 2017, sobre la digitalización de la industria europea (7),

— Visto el informe de su Departamento Temático de Políticas Estructurales y de Cohesión, de mayo de 2020, sobre el uso de la inteligencia artificial en los sectores cultural y creativo,

— Visto el análisis exhaustivo de su Departamento Temático de Políticas Estructurales y de Cohesión, de mayo de 2020, sobre el uso de la inteligencia artificial en el sector audiovisual,

— Visto el estudio de su Departamento Temático de Derechos de los Ciudadanos y Asuntos Constitucionales, de abril de 2020, titulado «La educación y el empleo de las mujeres en la ciencia, la tecnología y la economía digital, incluida la inteligencia artificial y su influencia en la igualdad de género»,

— Visto el artículo 54 de su Reglamento interno,

— Vistos los dictámenes de la Comisión de Libertades Civiles, Justicia y Asuntos de Interior, la Comisión de Mercado Interior y Protección del Consumidor, la Comisión de Asuntos Jurídicos y la Comisión de Derechos de las Mujeres e Igualdad de Género,

— Visto el informe de la Comisión de Cultura y Educación (A9-0127/2021),

1. Considerando que las tecnologías de inteligencia artificial (IA), que pueden repercutir directamente en nuestras sociedades, se están desarrollando a un ritmo acelerado y que se utilizan cada vez más en casi todos los ámbitos de nuestra vida, incluidos los sectores educativo, cultural y audiovisual; que es probable que la IA ayude a mejorar la productividad laboral y a acelerar el crecimiento económico;

2. Considerando que el desarrollo, la implantación y la utilización de la IA, incluidos los programas informáticos, los algoritmos y los datos utilizados y producidos por esta, deben guiarse por los principios éticos de transparencia, explicabilidad, equidad, rendición de cuentas y responsabilidad;

3. Considerando que la inversión pública en IA en la Unión ha estado muy por debajo de la de otras grandes economías; que la inversión insuficiente en IA probablemente ejercerá un impacto en la competitividad de la Unión en todos los sectores;

4. Considerando que un enfoque integrado de la IA, así como la disponibilidad, la recopilación y la interpretación de datos de alta calidad, fiables, justos, transparentes, solventes, seguros y compatibles son esenciales para el desarrollo de una IA ética;

5. Considerando que el artículo 21 de la Carta prohíbe la discriminación por una amplia gama de motivos; que no deben reproducirse múltiples formas de discriminación en el desarrollo, la implantación y la utilización de los sistemas de IA;

6. Considerando que la igualdad de género es un principio fundamental de la Unión, consagrado en los Tratados, que debe reflejarse en todas sus políticas, incluidos los sectores educativo, cultural y audiovisual, así como en el desarrollo de tecnologías como la IA;

7. Considerando que las experiencias pasadas, especialmente en los ámbitos técnicos, han demostrado que los avances y las innovaciones a menudo se basan principalmente en datos masculinos y que las necesidades de las mujeres no se reflejan plenamente; que hacer frente a esos sesgos exige una mayor vigilancia, soluciones técnicas y el desarrollo de unos requisitos claros de equidad, rendición de cuentas y transparencia;

8. Considerando que unos conjuntos de datos incompletos e inexactos, la falta de datos desglosados por sexo y unos algoritmos incorrectos pueden distorsionar el procesamiento de un sistema de IA, y poner en peligro la consecución de la igualdad de género en la sociedad; que los datos sobre colectivos desfavorecidos y formas de discriminación intersectoriales suelen ser incompletos o incluso inexistentes;

   I. Considerando que las desigualdades de género, los estereotipos y la discriminación también se pueden crear y reproducir mediante el lenguaje y las imágenes difundidas a través de los medios de comunicación y las aplicaciones basadas en la IA; que la educación, los programas culturales y los contenidos audiovisuales tienen una influencia considerable en la formación de las creencias y los valores de las personas y son una herramienta fundamental para luchar contra los estereotipos de género, reducir la brecha digital de género y establecer modelos de referencia sólidos; que debe establecerse un marco ético y reglamentario antes de aplicar soluciones automatizadas para estos ámbitos clave de la sociedad;

10. Considerando que la ciencia y la innovación pueden aportar beneficios transformadores para la vida, especialmente para las personas más rezagadas, como por ejemplo las mujeres y las niñas residentes en regiones remotas; que la educación científica es importante para adquirir competencias, un trabajo digno y empleos del futuro, así como para romper con los estereotipos de género que la consideran un ámbito típicamente masculino; que la ciencia y el pensamiento científico son esenciales para la cultura democrática, lo que a su vez es clave para avanzar en la igualdad de género;

11. Considerando que una de cada diez mujeres de la Unión ya ha sufrido alguna forma de ciberviolencia desde los 15 años y que el ciberacoso sigue siendo motivo de preocupación en el desarrollo de la IA, también en el ámbito de la educación; que la ciberviolencia se dirige con frecuencia a las mujeres en la vida pública, como por ejemplo las activistas, las políticas y otras figuras públicas; que la IA y otras tecnologías emergentes pueden desempeñar un importante papel en la prevención de la ciberviolencia contra las mujeres y las niñas, así como en la educación de las personas;

    L. Considerando que la Unión y sus Estados miembros tienen la responsabilidad particular de aprovechar, promover y aumentar el valor añadido de las tecnologías de IA, y de asegurarse de que dichas tecnologías sean seguras y atiendan al bienestar y al interés general de los europeos; que estas tecnologías pueden contribuir enormemente a lograr nuestro objetivo común de mejorar la vida de nuestros ciudadanos y fomentar la prosperidad en la Unión, favoreciendo el desarrollo de mejores estrategias e innovación en una serie de ámbitos, en particular en los sectores educativo, cultural y audiovisual;

13. Considerando que la mayoría de la IA está basada en software de código abierto, lo que significa que los códigos fuente pueden ser inspeccionados, modificados y reforzados;

14. Considerando que puede ser necesario introducir determinados ajustes en los actos normativos específicos de la Unión existentes para reflejar la transformación digital y hacer frente a los nuevos desafíos que plantea el uso de las tecnologías de IA en la educación, la cultura y el sector audiovisual, como la protección de los datos personales y la privacidad y contra la discriminación, la promoción de la igualdad de género, el respeto de los derechos de propiedad intelectual, la protección del medio ambiente y los derechos de los consumidores;

15. Considerando que es importante proporcionar acceso a los datos al sector audiovisual desde las plataformas mundiales y los principales agentes para garantizar la igualdad de condiciones;

16. Considerando que la IA y las futuras aplicaciones o inventos realizados con la ayuda de esta pueden tener una doble naturaleza, al igual que sucede con cualquier otra tecnología; considerando que la IA y las tecnologías conexas plantean numerosas dudas en cuanto a la ética y la transparencia de su desarrollo, implantación y utilización, sobre todo con respecto a la recopilación...