La Unión Europea, pionera en intentar regular el uso de la inteligencia artificial

El uso de la Inteligencia Artificial ha saltado del futuro al presente, pues ya no es una práctica de las películas de ciencia ficción, sino que es una realidad.

Multitud de programas o aplicaciones como el famoso 'Chat GPT' ya se basan en la IA y es algo al alcance de millones de usuarios con capacidad para operar en diferentes áreas.

Una tecnología novedosa que va camino de cambiar la forma de trabajar en muchos sectores y también cambiará las rutinas del día a día de la sociedad. Se abre así la puerta a muchos beneficios, pero a una serie de riesgos.

Por ello la Unión Europea quiere anticiparse e intentar que la Inteligencia Artificial no esté por encima de nadie y su uso y gestión estén regulados.

La Comisión Europea ha aprobado un proyecto de mandato de negociación sobre las primeras normas para la inteligencia artificial con 84 votos a favor, 7 en contra y 12 abstenciones.

En sus enmiendas a la propuesta de la Comisión , los eurodiputados pretenden garantizar que los sistemas de IA sean supervisados ​​por personas, sean seguros, transparentes, rastreables, no discriminatorios y respetuosos con el medio ambiente.

También quieren tener una definición uniforme de IA diseñada para ser tecnológicamente neutral, de modo que pueda aplicarse a los sistemas de IA de hoy y de mañana.

Prácticas prohibidas de la IA

Las reglas siguen un enfoque basado en riesgos y establecen obligaciones para proveedores y usuarios dependiendo del nivel de riesgo que la IA pueda generar.

Los sistemas de IA con un nivel inaceptable de riesgo para la seguridad de las personas estarían estrictamente prohibidos, incluidos los sistemas que implementan técnicas subliminales o deliberadamente manipuladoras, explotan las vulnerabilidades de las personas o se utilizan para calificar socialmente (clasificar a las personas en función de su comportamiento social, estatus socioeconómico, personal).

Los eurodiputados modificaron sustancialmente la lista para incluir prohibiciones de usos intrusivos y discriminatorios de los sistemas de IA, como:

• Sistemas de identificación biométrica remota "en tiempo real" en espacios de acceso público;
• Sistemas de identificación biométrica a distancia "post", con la única excepción de las fuerzas del orden para la persecución de delitos graves y sólo previa autorización judicial;
• Sistemas de categorización biométrica que utilizan características sensibles (p. ej., género, raza, etnia, estado de ciudadanía, religión, orientación política);
• Sistemas policiales predictivos (basados ​​en perfiles, ubicación o conducta delictiva pasada);
• Sistemas de reconocimiento de emociones en las fuerzas del orden, la gestión de fronteras, el lugar de trabajo y las instituciones educativas; y
• Raspado indiscriminado de datos biométricos de las redes sociales o imágenes de CCTV para crear bases de datos de reconocimiento facial (violando los derechos humanos y el derecho a la privacidad).

IA de alto riesgo

Se amplió también la clasificación de áreas de alto riesgo para incluir daños a la salud, la seguridad, los derechos fundamentales o el medio ambiente de las personas.

También agregaron a la lista de alto riesgo los sistemas de IA para influir en los votantes en las campañas políticas y en los sistemas de recomendación utilizados por las plataformas de redes sociales (con más de 45 millones de usuarios bajo la Ley de Servicios Digitales ).

Medidas de transparencia

Se incluyeron obligaciones para los proveedores de modelos básicos, un desarrollo nuevo y de rápida evolución en el campo de la IA, que tendrían que garantizar una protección sólida de los derechos fundamentales, la salud y la seguridad y el medio ambiente, la democracia y el estado de derecho.

Tendrían que evaluar y mitigar los riesgos, cumplir con los requisitos de diseño, información y ambientales y registrarse en la base de datos de la UE.

Los modelos básicos generativos, como GPT, tendrían que cumplir con requisitos de transparencia adicionales, como revelar que el contenido fue generado por IA, diseñar el modelo para evitar que genere contenido ilegal y publicar resúmenes de datos protegidos por derechos de autor utilizados para capacitación.

Abogaron también por el derecho de los ciudadanos a presentar quejas sobre los sistemas de IA y recibir explicaciones de las decisiones basadas en sistemas de IA de alto riesgo que afectan significativamente sus derechos.

Tras la luz verde de la Comisión, el texto pasa al Parlamento Europeo, donde se esperan meses de negociaciones antes de su aprobación definitiva.

Pero dado que la Inteligencia Artificial es una realidad, desde la Comisión esperan que este asunto esté listo para aprobarse antes de final de año.

Una vez que se autorice, se aplicará de manera general en los 27 países que conforman la UE.