Dolores Abuin
Abogada
Qué es el LIBRO BLANCO sobre la inteligencia artificial
Este Libro Blanco data del año 2020, «Bruselas, 19.2.2020 COM(2020) y en él, la Presidenta de la Comisión, Ursula von der Leyen, busca un enfoque europeo orientado a la excelencia y la confianza.
Se trata de un enfoque europeo sólido basado en «la Estrategia Europea para la IA presentada en abril de 2018«.
La Comisión Europea respalda un enfoque basado en la regulación y en la inversión, que tiene el doble objetivo de promover la adopción de la inteligencia artificial y de abordar los riesgos vinculados a determinados usos de esta nueva tecnología.
Nos ofrece una visión general sobre la situación actual de la IA y los retos a los que nos debemos enfrentar con sus aplicaciones de uso.
«La finalidad del presente Libro Blanco es formular alternativas políticas para alcanzar estos objetivos; no aborda ni el desarrollo ni el uso de la inteligencia artificial para fines militares.»
El Libro Blanco define a la inteligencia artificial como «una combinación de tecnologías que agrupa datos, algoritmos y capacidad informática». Además defiende una visión antropocéntrica, ética y sostenible y que respete los derechos y valores fundamentales.
Se pretende que Europa se convierta en pionera en la regulación del marco normativo básico para la lA, basado en sus valores y derechos fundamentales, como la dignidad humana y la protección de la privacidad, para convertirse en líder mundial de la innovación en la economía de los datos y sus aplicaciones.
Se hace necesario construir un enfoque europeo común basado en la excelencia, la confianza.
El Plan de acción sobre educación, pretende capacitar a los ciudadanos para que tomen decisiones con fundamento bajo una influencia cada vez mayor de la IA.
El objetivo primordial de Europa asumir una posición para el liderazgo mundial a la hora de crear alianzas en torno a valores compartidos y promover el uso ético de la inteligencia artificial.
Veamos a continuación la estructura del Libro Blanco para que nos ayude a comprender los aspectos que ahora en 2023 todavía se están debatiendo.
MARCO REGULADOR IA
La Comisión publicó una Comunicación según la cual acogía favorablemente los siete requisitos esenciales contemplados en las directrices del grupo de expertos de alto nivel:
- Acción y supervisión humanas;
- Solidez técnica y seguridad;
- Gestión de la privacidad y de los datos;
- Transparencia;
- Diversidad, no discriminación y equidad;
- Bienestar social y medioambiental;
- Rendición de cuentas.
Es interesante resaltar como en el Libro Blanco a grandes rasgos se pincelan tanto los beneficios como los riegos de la Inteligencia Artificial.
Existen riesgos para los derechos fundamentales, especialmente la protección de los datos personales y de la privacidad y la no discriminación.
Un observación fundamental que realiza el Libro Blanco es respecto a la discriminación y sesgos que si bien forman parte del propio comportamiento humano, con la IA debemos tener en cuenta algo más.
«Los efectos son mucho más amplios, y afectar y discriminar a numerosas personas sin que existan mecanismos como los de control social que rigen el comportamiento humano».
«Puede suceder también que el sistema de IA «aprenda» mientras está funcionando. En tales casos, cuando los resultados no puedan preverse ni anticiparse en la fase de diseño, los riesgos no se deberán a fallos en el diseño original del sistema, sino más bien a las repercusiones prácticas de las correlaciones o de los modelos que reconozca el sistema en un gran conjunto de datos».
EFECTO CAJA NEGRA
La opacidad, la complejidad, la imprevisibilidad y un comportamiento parcialmente autónomo, pueden hacer difícil comprobar el cumplimiento de la legislación vigente de la UE sobre la protección de los derechos fundamentales e impedir su cumplimiento efectivo.
PARTICIPANTES DEL PROCESO EN LA IA
- El desarrollador
- El implementador (la persona que utiliza un producto o servicio provisto de IA).
- Otras partes potenciales (productor, distribuidor o importador, proveedor de servicios, usuario profesional o particular).
CONTROLES DE LA CONFORMIDAD DE LAS APLICACIONES DE IA DE ELEVADO RIESGO
Se buscan controles de conformidad y para ello se utiliza un mecanismo proporcionado y no discriminatorio con criterios transparentes y objetivos que cumplan con las obligaciones internacionales.
«En el caso de las aplicaciones de IA que no se consideren de riesgo elevado y que, por tanto, no estén sujetas a los requisitos obligatorios esbozados, existe la opción de establecer un sistema de etiquetado voluntario, además de la legislación aplicable».
ESTRUCTURA DE GOBERNANZA EUROPEA
El objetivo de la Gobernanza es:
-facilitar la ejecución del marco jurídico.
-la formulación de orientaciones, emitiendo dictámenes y compartiendo sus conocimientos técnicos.