Retos normativos y garantías para una IA centrada en las personas

El pasado miércoles 28 de enero se celebraron los Diálogos del Día de la Privacidad, un evento coorganizado por la Agencia Española de Protección de Datos (AEPD), la Autoritat Catalana de Protecció de Dades (APDCAT) y el Ilustre Colegio de la Abogacía de Barcelona (ICAB), con motivo del Día Internacional de la Protección de Datos.

En el marco de este encuentro, tuvo lugar la conferencia “Protección de datos e Inteligencia Artificial”, en la que distintos ponentes abordaron los principales desafíos que plantea la IA, tanto en el sector público como en el privado.

La inteligencia artificial como preocupación presente

Uno de los mensajes clave de la jornada fue que la inteligencia artificial ya no es una preocupación futura, sino una realidad plenamente actual. Su impacto es especialmente relevante en ámbitos que manejan datos sensibles, como las administraciones públicas, la sanidad o los procesos de selección de personal.

En este contexto, se puso de relieve que los datos son el nuevo oro, lo que explica el creciente interés de las grandes empresas tecnológicas por su recopilación y explotación. La IA necesita grandes volúmenes de datos para entrenarse y funcionar eficazmente, lo que, a su vez, intensifica los riesgos para la privacidad y la protección de los derechos fundamentales.

El marco normativo europeo y nacional

Desde una perspectiva normativa, los ponentes destacaron que Europa cuenta con un ecosistema regulatorio amplio, integrado, entre otras normas, por el RGPD, el Digital Services Act (DSA), el Digital Markets Act (DMA), la Directiva de derechos de autor y el Reglamento de Inteligencia Artificial (RIA). Actualmente, la Unión Europea trabaja en un proceso de simplificación y armonización normativa, conocido como paquete Ómnibus, con el objetivo de ofrecer simplificación y mayor coherencia regulatoria.

A nivel nacional, se subrayó el esfuerzo por reforzar la protección de los menores, incluyendo la tipificación penal de los deepfakes y la necesidad de consentimiento expreso para el uso de la imagen o el rostro de una persona mediante técnicas de IA, especialmente en el caso de menores de 16 años. Estas iniciativas responden a la necesidad de modernizar el Código Penal de cara a hacer frente a los nuevos riesgos tecnológicos.
lass=»yoast-text-mark» />>Asimismo, se mencionó la existencia de una iniciativa europea para la creación de gigafactorías de inteligencia artificial, destinadas a alojar y custodiar datos dentro de la Unión Europea, reduciendo la dependencia de infraestructuras ubicadas en Estados Unidos que tenemos en la actualidad.

Inteligencia artificial y servicios públicos

En el ámbito de los servicios públicos, el foco se situó en la confianza de la ciudadanía en las instituciones. El objetivo es avanzar hacia una administración más fácil, más inteligente y amable, lo que implica mejorar los procesos internos y evolucionar hacia servicios más proactivos.

Para ello, resulta esencial incorporar principios como la intervención y responsabilidad humana, la seguridad y protección de derechos desde el diseño, así como la trazabilidad en el uso de sistemas basados en IA. Estos pilares permitirían ofrecer servicios públicos más robustos, accesibles y comprensibles para la ciudadanía.

El papel de las autoridades de control

Desde la AEPD, se defendió que hoy en día resulta prácticamente imposible ejercer determinadas profesiones jurídicas sin el apoyo de la inteligencia artificial, pero se insistió en la necesidad de utilizarla de forma responsable y conforme a derecho. Ante posibles lagunas regulatorias, el marco de la protección de datos sigue actuando como referencia esencial.

La IA incide directamente en aspectos como la calidad y la exactitud de los datos, pudiendo generar sesgos si no se programa correctamente o si los resultados no se analizan de forma adecuada, conforme a criterios éticos y legales que permitan minimizar dicho riesgo.

La IA también supone, en la mayoría de los casos, la existencia de decisiones automatizadas a partir de grandes cantidades de datos, en ocasiones sensibles, y que requerirían de la realización de Evaluaciones de Impacto en Protección de Datos (EIPD). En este sentido, se apuntó a la necesidad de afinar el concepto de dato personal en el nuevo contexto tecnológico, ya que la IA puede combinar distintos datos y extraer conclusiones a partir de ellos, haciendo que información que antes parecía anónima, pase a identificar a personas concretas.

Por su parte, la APDCAT destacó que el objetivo último de la regulación es la protección de las personas. Una explotación excesiva de los datos reduce la capacidad de control de los individuos sobre su información y aumenta los riesgos para su seguridad. Por ello, se defendió una IA fiable y centrada en el ser humano, manteniendo un núcleo esencial de respeto a la privacidad.

Aunque el RIA no desplaza al RGPD, su aplicación planteará nuevos retos en la gestión de responsabilidades y en el papel de las autoridades de control. En todo caso, se recordó que la protección de datos no es un derecho absoluto, pero que la innovación tecnológica no puede producirse sacrificando la privacidad, la dignidad y la seguridad.

Conclusiones: hacia un pacto jurídico mínimo para la IA en Europa

Como conclusión, los ponentes plantearon la necesidad de alcanzar un pacto jurídico mínimo que permita el despliegue de la inteligencia artificial en Europa con garantías suficientes. Entre los elementos clave de este pacto destacaron:

• Fomentar la innovación, entendiendo que una regulación adecuada no frena el progreso tecnológico.
• Establecer un paquete de garantías y servicios que proteja los derechos fundamentales mediante una adecuada gestión de riesgos.
• Apostar por una IA con control y responsabilidad, basada en la concienciación, el respeto, el cumplimiento normativo y la evaluación de riesgos en las organizaciones.
• Garantizar la trazabilidad y capacidad de reacción en el uso e implementación de la IA, evitando un exceso de regulación que paralice la innovación y fomentando la colaboración también entre autoridades para facilitar el cumplimiento normativo y promover el uso, en paralelo, de la IA para avanzar como sociedad.

La jornada puso de manifiesto que el reto no es elegir entre innovación y derechos, sino avanzar en ambos de forma equilibrada, construyendo una inteligencia artificial confiable, responsable y alineada con los valores europeos.

Desde mi punto de vista, el principal reto de la IA no es la falta de normativa, sino la capacidad de las organizaciones para comprenderla y aplicarla correctamente. La IA ofrece grandes oportunidades, pero su uso responsable exige anticipación, criterio jurídico y una sólida cultura de cumplimiento, basada en un enfoque preventivo centrado en la protección de los derechos de las personas y de su esfera privada. Solo así podrá consolidarse una IA fiable y socialmente aceptable.

Implementa IA con seguridad, criterio y soporte legal

En AGM Abogados, contamos con un equipo especializado en derecho digital y protección de datos, listo para asesorar a las empresas en la implementación y regulación de la inteligencia artificial dentro de su organización. Contacta con nosotros para descubrir cómo podemos ayudarte a implementar la IA en su negocio de forma ética, legal y responsable.