Reglamento de Inteligencia Artificial en la UE: Prácticas prohibidas y sanciones

El pasado 2 de febrero de 2025 entró en vigor la primera fase de aplicación del Reglamento de Inteligencia Artificial (IA) en la Unión Europea (UE), marcando un hito en la regulación de esta tecnología. Este reglamento tiene como objetivo garantizar un uso seguro y ético de la IA, estableciendo una serie de restricciones y sanciones para prácticas consideradas perjudiciales.

A continuación, analizamos qué prácticas de IA están prohibidas, quiénes deben cumplir con estas normativas y qué sanciones pueden aplicarse en caso de incumplimiento.

¿Qué prácticas de Inteligencia Artificial están prohibidas?

De acuerdo con el artículo 5.1 de la AI Act, se prohíbe la introducción, comercialización y uso de sistemas de IA que puedan afectar negativamente a individuos o colectivos de personas. Entre las prácticas prohibidas se encuentran las siguiente.

Manipulación subliminar y engañosa

Se prohíbe el uso de sistemas de IA que empleen técnicas subliminales o manipuladoras que trasciendan la conciencia de una persona. Esto incluye aquellos sistemas diseñados para influir en la toma de decisiones de manera oculta, reduciendo significativamente la capacidad de los individuos para tomar decisiones informadas y llevándolos a optar por acciones que, en otras circunstancias, no habrían elegido. Si estas técnicas generan o pueden generar un perjuicio considerable para las personas, su uso está prohibido.

Explotación de vulnerabilidades

Está prohibido el uso de IA para aprovecharse de vulnerabilidades de personas o colectivos, derivadas de su edad, discapacidad, situación económica o social, con el fin de modificar sustancialmente su comportamiento, especialmente si esto conlleva un perjuicio real o probable.

Clasificación social discriminatoria

No se permite el uso de sistemas de IA para evaluar o clasificar a individuos o grupos en función de su comportamiento social o características personales, ya sean conocidas, inferidas o predichas. Si la puntuación resultante de dicha clasificación genera un trato desfavorable o perjudicial en ciertos contextos sociales, o si el impacto es injustificado o desproporcionado, se considerará una práctica prohibida.

Evaluación de riesgo predictiva en materia penal

Se prohíben los sistemas de IA diseñados para predecir el riesgo de que una persona cometa un delito basándose en el análisis de su perfil, características personales o patrones de comportamiento. No obstante, esta prohibición no se aplicará a los sistemas que asistan a los evaluadores humanos en la valoración de la implicación de una persona en un delito, siempre que se basen en hechos objetivos y verificables directamente relacionados con una actividad delictiva.

Reconocimiento facial no autorizado

Se prohíbe el uso de IA para crear o expandir bases de datos de reconocimiento facial obteniendo imágenes de internet o de sistemas de videovigilancia sin un criterio selectivo ni el consentimiento adecuado.

Identificación biométrica en tiempo real en espacios públicos

No está permitido el uso de sistemas de identificación biométrica en tiempo real en lugares de acceso público con fines de seguridad o cumplimiento de la ley, salvo en los casos excepcionales previstos en la normativa. Entre estos casos permitidos se incluyen la lucha contra el terrorismo y la trata de personas, siempre bajo estrictas condiciones y supervisión.

Análisis de emociones en entornos laborales y educativos

Se prohíbe el uso de IA para reconocer o inferir emociones de personas en sus lugares de trabajo o centros educativos, salvo cuando dicho sistema tenga una justificación médica o de seguridad.

Categorización biométrica basada en datos sensibles

Está prohibido el uso de sistemas de IA que clasifiquen individualmente a las personas en función de sus datos biométricos con el propósito de inferir información sensible, como su origen racial, opiniones políticas, afiliación sindical, creencias religiosas o filosóficas, orientación sexual o vida privada. No obstante, esta prohibición no afecta al etiquetado o filtrado de conjuntos de datos biométricos adquiridos de manera legal ni a su categorización en contextos relacionados con el cumplimiento de la ley.

¿A quién aplica el Reglamento Europeo de Inteligencia Artificial?

El Reglamento de Inteligencia Artificial aplica a todos los prestadores de servicios que trabajen con IA de uso general y la pongan a disposición en la Unión Europea, con independencia de dónde estén estos ubicados. En este sentido, sigue una lógica similar a la del Reglamento General de Protección de Datos (RGPD), ya que también afecta a empresas fuera de la UE siempre que sus servicios se ofrezcan dentro del territorio europeo.

Para comprender mejor estos y otros conceptos clave, es recomendable revisar el artículo 3 del Reglamento de IA, donde se detallan las definiciones fundamentales que rigen esta regulación.

¿Quiénes son estos prestadores de servicios que trabajan con IA?

El Reglamento de IA aplica a diversos actores involucrados en el desarrollo, comercialización y uso de sistemas de inteligencia artificial. Entre ellos se incluyen:

• Desarrolladores de IA de uso general, así como los responsables de su implementación y despliegue.
• Proveedores y responsables del despliegue de sistemas de IA, incluso si están ubicados fuera de la UE, cuando los resultados generados por estos sistemas se utilicen dentro del territorio europeo.
• Importadores y distribuidores de sistemas de IA, encargados de su comercialización en la UE.
• Fabricantes de productos que integren IA, cuando la introduzcan en el mercado bajo su propio nombre o marca.
• Representantes autorizados de proveedores de IA no establecidos en la UE, que actúan como intermediarios para su comercialización o distribución en Europa.
• Personas o entidades afectadas por el uso de IA en la UE, quienes también pueden verse impactadas por la regulación.

¿Por qué están prohibidos estas prácticas de IA?

Las prácticas de IA prohibidas han sido catalogadas como altamente invasivas y peligrosas para los derechos fundamentales de las personas. La UE busca evitar que la IA se utilice para manipular, discriminar o violar la privacidad de los ciudadanos, garantizando un equilibrio entre innovación y seguridad.

Además de estas prácticas prohibidas, el reglamento también regula sistemas de IA de alto riesgo, los cuales, aunque no están prohibidos, deben cumplir con requisitos adicionales de transparencia y supervisión para su implementación.

Sanciones por incumplimiento del Reglamento de Inteligencia Artificial

El no respeto de la prohibición de las prácticas de IA estará sujeto a multas administrativas de hasta 35 millones de euros o, si el infractor es una empresa, de hasta el 7 % de su volumen de negocios mundial total correspondiente al ejercicio financiero anterior, si esta cuantía fuese superior.

En todo caso, serán los estados miembros los que establecerán el resto de las medidas coercitivas y régimen de sanciones que podrán incluir también otro tipo de advertencias para las empresas que trabajen con IA.

Otros requisitos para cumplir con el Reglamento de IA

El artículo 4 del Reglamento de IA establece que las empresas, en tanto que proveedores o implantadores de sistemas de IA, deben, a partir del pasado 2 de febrero, adoptar medidas para garantizar, en la medida de lo posible, un nivel suficiente de conocimientos de inteligencia artificial de su personal y de otras personas que se ocupen del funcionamiento y uso de los sistemas de inteligencia artificial en su nombre.

En este sentido, se deberá tener en cuenta conocimientos técnicos, experiencia, educación y formación y el contexto en el que vayan a utilizarse los sistemas de IA, y a las personas sobre los que vayan a utilizarse los sistemas de IA.

Próximos pasos en la regulación de la IA en Europa

El 2 de agosto de 2025 entrarán en vigor nuevas medidas dirigidas especialmente a los modelos de IA de propósito general, estableciendo requisitos adicionales de transparencia y supervisión para estos sistemas.

Las empresas deben anticiparse a estos cambios y adaptar sus prácticas para evitar sanciones y cumplir con la normativa de manera efectiva.

Asesoramiento legal en regulación de Inteligencia Artificial

En AGM Abogados, nuestro equipo de abogados expertos en Tecnología, Medios y Telecomunicaciones (TMT) puede ayudarte a discernir el tipo de IA que estás utilizando o implementando, identificando los riesgos legales asociados y asesorándote en la adopción de las medidas necesarias para cumplir con el Reglamento Europeo de Inteligencia Artificial.

También formamos a tu equipo en los aspectos legales del uso de la IA en tu empresa, sus riesgos, ayudándote también a confeccionar los protocolos y códigos de buenas prácticas de IA internas que tu empresa necesita para el uso de esta tecnología hoy día ya imparable y necesaria.

Para que el camino que hagas en la implementación de la tecnología y de la inteligencia artificial sea lo más seguro posible. Como en todos los caminos, a veces nos tropezamos o nos desviamos, pero si preparamos antes la excursión, el riesgo será menor.

Contacta con nosotros y asegura que tu empresa cumple con la regulación aplicable en materia de inteligencia artificial.