El Europarlamento aprueba que haya una Ley de inteligencia artificial y comenzará a negociar sus normas

El Parlamento Europeo ha aprobado este miércoles comenzar la negociación sobre la Ley de Inteligencia Artificial (IA) con 499 votos a favor, 28 en contra y 93 abstenciones.

Ahora iniciará las conversaciones con los estados miembros de la UE sobre la forma final de la ley.

Las reglas garantizarían que la IA desarrollada y utilizada en Europa esté totalmente en línea con los derechos y valores de la UE, incluida la supervisión humana, la seguridad, la privacidad, la transparencia, la no discriminación y el bienestar social y ambiental.

Prácticas prohibidas de IA

Las reglas siguen un enfoque basado en el riesgo y establecen obligaciones para los proveedores y quienes implementan sistemas de IA según el nivel de riesgo que la IA pueda generar.

Por lo tanto, se prohibirían los sistemas de IA con un nivel de riesgo inaceptable para la seguridad de las personas, como los utilizados para la puntuación social (clasificación de personas en función de su comportamiento social o características personales). Los eurodiputados ampliaron la lista para incluir prohibiciones de usos intrusivos y discriminatorios de la IA, como:

• Sistemas de identificación biométrica remota “en tiempo real” y “post” en espacios de acceso público;
• sistemas de categorización biométrica que utilizan características sensibles (p. ej., género, raza, etnia, estado de ciudadanía, religión, orientación política);
• sistemas policiales predictivos (basados ​​en perfiles, ubicación o comportamiento delictivo pasado);
• sistemas de reconocimiento de emociones en las fuerzas del orden, la gestión de fronteras, el lugar de trabajo y las instituciones educativas; y
• extracción no dirigida de imágenes faciales de Internet o filmaciones de CCTV para crear bases de datos de reconocimiento facial (violando los derechos humanos y el derecho a la privacidad);

IA de alto riesgo

Los eurodiputados aseguraron que la clasificación de las aplicaciones de alto riesgo ahora incluirá sistemas de IA que supongan un daño significativo para la salud, la seguridad, los derechos fundamentales o el medio ambiente de las personas. Los sistemas de inteligencia artificial utilizados para influir en los votantes y el resultado de las elecciones y en los sistemas de recomendación utilizados por las plataformas de redes sociales (con más de 45 millones de usuarios) se agregaron a la lista de alto riesgo.

Obligaciones

Los proveedores de modelos básicos, un desarrollo nuevo y de rápida evolución en el campo de la IA, tendrían que evaluar y mitigar los posibles riesgos (para la salud, la seguridad, los derechos fundamentales, el medio ambiente, la democracia y el estado de derecho) y registrar sus modelos en el Base de datos de la UE antes de su lanzamiento al mercado de la UE.

Los sistemas de IA generativa basados ​​en tales modelos, como ChatGPT, tendrían que cumplir con los requisitos de transparencia (revelar que el contenido fue generado por IA, y también ayudar a distinguir las llamadas imágenes falsas profundas de las reales) y garantizar salvaguardas contra la generación de contenido ilegal. Los resúmenes detallados de los datos protegidos por derechos de autor utilizados para su capacitación también deberían ponerse a disposición del público.

Las negociaciones con el Consejo sobre la forma final de la ley comenzarán a partir de hoy.