El Parlamento Europeo aprobó el pasado 13 de marzo la Ley de Inteligencia Artificial (EU AI Act) con amplia mayoría, marcando un hito histórico en la regulación global de esta tecnología. Esta normativa pionera establece un equilibrio entre garantizar la seguridad y el cumplimiento de los derechos fundamentales, mientras impulsa la innovación en el sector.
Objetivos y estructura de la ley
La nueva legislación europea busca proteger los derechos fundamentales, la democracia, el Estado de derecho y la sostenibilidad ambiental frente a sistemas de IA de alto riesgo. Simultáneamente, pretende fomentar la innovación y posicionar a Europa como líder mundial en este campo, estableciendo un marco regulatorio armonizado para promover una IA confiable.
El elemento central de esta normativa es su sistema de categorización basado en riesgos, que establece diferentes niveles de regulación según el impacto potencial de cada aplicación:
- Riesgo mínimo: Incluye videojuegos y filtros de spam. Estos sistemas no están regulados y representan la mayoría de las aplicaciones actualmente disponibles en el mercado europeo.
- Riesgo limitado: Abarca chatbots y tecnologías de deepfake. Estos sistemas deben cumplir con obligaciones de transparencia, garantizando que los usuarios sepan cuando están interactuando con IA.
- Alto riesgo: Comprende usos en educación, transporte, salud, seguridad y aplicación de la ley. Estos sistemas enfrentan requisitos más estrictos.
- Riesgo inaceptable: Como sistemas de puntuación social. Estas aplicaciones quedan prohibidas.
Requisitos para sistemas de alto riesgo
Para los sistemas considerados de alto riesgo, la ley impone requisitos rigurosos que incluyen:
- Evaluaciones de riesgos
- Uso de conjuntos de datos de alta calidad
- Implementación de registros de actividad para garantizar la trazabilidad
- Documentación completa y explicable
- Transparencia para el usuario
Los desarrolladores de estos sistemas deberán someterse a un proceso de evaluación de conformidad y obtener una certificación antes de comercializar sus productos en el mercado de la UE. Además, los ciudadanos tendrán derecho a presentar quejas sobre los sistemas de IA y a recibir explicaciones sobre las decisiones basadas en esta tecnología.
Regulación para IA de propósito general
La ley también establece requisitos específicos para los sistemas de IA de propósito general (GPAI) y los modelos en los que se basan. Estos deben cumplir con la ley de derechos de autor de la UE y publicar resúmenes detallados del contenido utilizado para su entrenamiento.
Los modelos más potentes, que podrían plantear riesgos sistémicos, enfrentarán requisitos adicionales como la realización de evaluaciones de modelos, evaluación y mitigación de riesgos sistémicos, y la presentación de informes sobre incidentes.
Prácticas prohibidas
La legislación prohíbe explícitamente prácticas de IA clasificadas como inaceptables por plantear riesgos importantes para los derechos y la seguridad de los ciudadanos. Entre estas se incluyen:
- Sistemas que manipulan el comportamiento humano
- Técnicas subliminales
- Explotación de grupos vulnerables
- Puntuaciones sociales con fines gubernamentales
- Categorización biométrica basada en características sensibles
- Extracción no selectiva de imágenes faciales de Internet
- Reconocimiento de emociones en lugares de trabajo y escuelas
- Vigilancia policial predictiva basada únicamente en perfiles personales
Mecanismos de vigilancia y cumplimiento
Para garantizar el cumplimiento de estas disposiciones, la ley establece mecanismos de vigilancia y aplicación del mercado. Esto incluye la designación de autoridades nacionales competentes responsables de la supervisión y el cumplimiento, así como la imposición de sanciones por incumplimiento.
Además, se crearán entornos de pruebas regulatorios a nivel nacional, accesibles para pymes y empresas emergentes, permitiéndoles desarrollar y capacitar sistemas de IA innovadores antes de su comercialización.
Con esta legislación pionera, Europa establece un precedente global en la regulación de la inteligencia artificial, buscando un equilibrio entre protección e innovación que podría influir en marcos regulatorios futuros en otras regiones del mundo.
Fuente: Información extraída de un documento sobre la aprobación de la Ley Europea de Inteligencia Artificial (EU AI Act) por el Parlamento Europeo el 13 de marzo.