Dictamen del ComitéEconómico y Social Europeo sobre «La revolución digital teniendoen cuenta las necesidades y los derechos de los ciudadanos» (Dictamen de iniciativa)

• Section: Dictamen de propia iniciativa

5.6.2019 ES Diario Oficial de la Unión Europea C 190/17

Ponente: Ulrich SAMM

Decisión del Pleno 12.7.2018 Fundamento jurídico Artículo 29, apartado 2, del Reglamento interno Dictamen de iniciativa Sección competente Transportes, Energía, Infraestructuras y Sociedad de la Información Aprobado en sección 11.2.2019 Aprobado en el pleno 20.2.2019 Pleno n.o 541 Resultado de la votación (a favor/en contra/abstenciones) 129/2/1

1.1. La revolución digital actual tiene el potencial de transformar fundamentalmente la sociedad, la economía y el lugar de trabajo, y proporcionar beneficios a largo plazo tanto para el crecimiento económico como para la calidad de vida con un impacto en todos los sectores, cambiando nuestra forma de vivir, trabajar y comunicarnos. El CESE ha expresado claramente su opinión de que la transformación —realizada por seres humanos— debe beneficiar a todos. Por lo tanto, el CESE acoge con satisfacción todas las acciones políticas y de la sociedad civil que ayuden a los ciudadanos europeos. El presente dictamen aborda principalmente las necesidades y preocupaciones de los ciudadanos, ya sea como trabajadores, empresarios o consumidores en general, y determina los ámbitos donde la participación de la sociedad civil es fundamental. Solo lograremos que la transición digital sea un éxito si se configura de forma proactiva.

1.2. El progreso de la digitalización, en particular cuando se introducen nuevos productos y servicios digitales, puede ser muy rápido (como en el caso de los teléfonos móviles e inteligentes) o puede ser lento en determinados ámbitos, donde el público y la sociedad en general no aceptan la tecnología sin hesitación, como sucede cuando se ven afectadas la autonomía, la responsabilidad, la seguridad, la dignidad y la privacidad.

1.3. La digitalización ofrece un gran abanico de nuevas posibilidades que permiten a las personas tomar decisiones para vivir mejor de una manera sin precedentes. Por otro lado, cuanto más domina nuestra vida la digitalización, mayor es la posibilidad de ser manipulados, lo que puede menoscabar nuestra autonomía en ámbitos como conducir coches, elegir alimentos, cuidar nuestra salud, calentar nuestros hogares, fumar, beber, administrar nuestras finanzas y muchos más. El CESE pide desarrollar, adaptar y aplicar normas transparentes a estas tecnologías en rápida mutación. La buena tecnología persuasiva debe conllevar formación, no manipulación, y cumplir el principio de libre elección de las personas, para garantizar la autonomía humana.

1.4. El CESE tiene una opinión clara sobre la cuestión relativa al grado en que es éticamente aceptable delegar las decisiones (con implicaciones morales) a sistemas basados en la inteligencia artificial (IA): los sistemas automatizados, independientemente de su complejidad, tienen que funcionar de acuerdo con el principio de control humano. Solo los seres humanos toman la decisión final y asumen la responsabilidad por ella.

1.5. Con la creciente automatización en el hogar están evolucionando varios puntos de entrada para los piratas informáticos. Es necesario informar a los consumidores sobre estos riesgos y respaldar las medidas de seguridad, en particular cuando los piratas informáticos intentan controlar dispositivos inteligentes. El CESE pide a la UE que revise las normas de seguridad existentes y desarrolle y adapte normas de seguridad estrictas a la nueva evolución de las tecnologías con el fin de proteger a los ciudadanos en sus hogares.

1.6. El CESE acoge favorablemente el enfoque de mejora de la seguridad vial introduciendo más tecnología digital en los coches, pero también expresa su preocupación por el lento ritmo de estas mejoras. Para acelerar la transición a la conducción automática, el CESE aboga por desarrollar incentivos de la UE para abordar los enormes costes (necesidad de comprar nuevos coches) y la aceptación insuficiente de los sistemas de asistencia (por la complejidad y la falta de formación). El CESE considera que debe elaborarse una estrategia europea para adaptar y modificar nuestra red de carreteras, con el fin de que unos vehículos completamente autónomos y 100 % seguros lleguen a ser un éxito.

1.7. El CESE pide adaptar y revisar el Reglamento General de Protección de Datos (RGPD) en vista de la rápida evolución de la tecnología digital. Las nuevas tecnologías de reconocimiento facial, en particular, suponen una amenaza para nuestra intimidad. A medida que esta tecnología se vuelva más barata y fácilmente accesible para todos, podría en última instancia llevar a una situación en la que ya no se pueda caminar por la calle o ir de compras de manera anónima. La amenaza a la intimidad y la autonomía es aún mayor cuando estas tecnologías se utilizan para la elaboración de perfiles o la atribución de puntos en función del comportamiento de la persona. El CESE insiste en que las personas tengan derecho a ser anónimas también en los espacios públicos. El CESE insta a la Comisión a revisar periódicamente el RGPD y la normativa correspondiente en función de la rapidez de la evolución de estas tecnologías.

1.8. El consumidor individual, que no tiene conocimientos digitales profesionales, necesita mucho apoyo para utilizar sistemas digitales complejos, ya sean electrodomésticos o plataformas digitales. Los manuales de usuario pueden ser muy largos y el permiso para utilizar determinados datos se da a menudo involuntariamente. El CESE está convencido de que la transparencia no basta; también son necesarias simplificaciones y procedimientos normalizados en toda la UE para ayudar a los consumidores.

1.9. Las plataformas digitales pueden rastrear fácilmente a sus usuarios con herramientas simples. Esto significa que, para proteger la privacidad, el RGPD es insuficiente cuando los datos se utilizan indebidamente de forma deliberada sin conocimiento de las personas. El CESE se muestra convencido de que la privacidad solo puede garantizarse restringiendo más el acceso a los datos únicamente a un número limitado de personas certificadas. Las medidas de seguridad deben desarrollarse hasta los niveles más elevados y fiables e incluir la verificación periódica por parte de organismos independientes de la UE.

1.10. El CESE está preocupado por que los sistemas de vigilancia basados en la biométrica puedan dar lugar a una clasificación errónea y estigmatización, al incluir automáticamente a alguien en una determinada categoría, como terrorista, delincuente o persona no fiable. Los sistemas que identifican y clasifican automáticamente a personas como sospechosas nunca deben funcionar sin una estrecha interacción humana y una verificación exhaustiva.

1.11. Se prevé el uso de la robótica en el sector sanitario. Sin embargo, los robots son dispositivos incapaces de replicar las capacidades empáticas y la reciprocidad de las relaciones de cuidados y asistencia entre personas. Si no se utilizan bajo determinadas condiciones marco, pueden socavar la dignidad humana. Por lo tanto, los robots para cuidados solo deben utilizarse para tareas de cuidado que no exijan implicación emocional, íntima o personal.

1.12. El CESE recomienda, cuando se planifiquen nuevos sistemas automatizados en la industria, el comercio y el sector de los servicios, utilizar métodos científicos objetivos para optimizar y evaluar la interacción entre las personas y las máquinas. Los métodos científicos de la ergonomía cognitiva permiten evaluar objetivamente las exigencias mentales al tiempo que abordan los nuevos sistemas de asistencia...