Una nueva normativa para controlar el desarrollo de sistemas de Inteligencia Artificial seguros y transparentes

El 1 de agosto de 2024 entró en vigor la primera normativa de Inteligencia Artificial para controlar y erradicar los riesgos y ataques que esta puede suponer para los derechos de las personas debido a su alta capacidad de análisis. Con esta regulación, se podrán prever y evitar prácticas intrusivas de manipulación, explotación y control social, que, hasta ahora, no estaban siendo supervisadas. A continuación, te lo contamos todo sobre el nuevo Reglamento 2024/1289.

En Talenom, somos especialistas en dar apoyo a las empresas para cumplir con la ley en el ámbito empresarial. Si necesitas asesoramiento en cualquier cuestión legal, puedes realizar una consulta puntual con nuestros expertos. Agenda una reunión sin compromiso. Y si necesitas un servicio de asesoría, pero no tienes claro cuál cubre mejor las necesidades de tu negocio, accede a nuestro recomendador de soluciones y te orientamos en tu búsqueda.

¿Qué objetivo persigue el Reglamento de IA?

Principalmente este nuevo reglamento busca mejorar el funcionamiento del mercado interior y promover la adopción de una IA centrada en el ser humano y fiable, garantizando los derechos y prestando apoyo a la innovación.

El legislador europeo, tras un debate profundo interno de la cuestión, ha conseguido dar una definición legal sobre “el sistema de Inteligencia Artificial” conocida por las siglas IA de la siguiente manera:

“Aquel sistema basado en una máquina que está diseñado para funcionar con distintos niveles de autonomía y que puede mostrar capacidad de adaptación tras el despliegue, y que, para objetivos explícitos o implícitos, infiere de la información de entrada que recibe la manera de generar resultados de salida, como predicciones, contenidos, recomendaciones o decisiones, que pueden influir en entornos físicos o virtuales” (artículo 3 del Reglamento de IA)

Como su propia definición legal establece, es tal la capacidad de la IA de generar predicciones, que la ley se encarga de regular las prohibiciones al respecto.

En el blog de Talenom: La Cuenta de Pérdidas y Ganancias de tu negocio en la nueva sección ‘Analítica’ de Talenom Software

¿Cómo se esquematiza la nueva regulación?

El Reglamento se basa en la diferenciación de los distintos niveles de riesgo, separando las prácticas prohibidas (enumerando minuciosamente las mismas), sistemas de alto riesgo (regulándolos pormenorizadamente), sistemas de riesgo limitado (sujetándolos únicamente a obligaciones de transparencia) y sistema de bajo riesgo (para los cuales no se prevé regulación).

¿Qué se considera como práctica prohibida?

Entre otras, se prohíben las técnicas subliminales. Por ejemplo, estímulos de audio, imagen o video que las personas no pueden percibir, para alterar el comportamiento de las personas. También prácticas que exploten vulnerabilidades de las personas o colectivos, o que estudien comportamientos que pueden suponer un trato perjudicial, con el fin de predecir delitos, de reconocimiento facial, para inferir las emociones en los centros de trabajo o educativos, categorización biométrica para deducir o inferir en datos de especial protección como la raza, el sexo, la religión, entre otros.

Hay que considerar que por obligación legal existen excepciones a estas prohibiciones, por ejemplo, los sistemas de IA que infieran en las emociones de una persona física en el lugar de trabajo, excepto cuando el sistema se destine al mercado por motivos de seguridad o médicos.

¿Cuándo se considera un sistema de IA de alto riesgo?

Está regulado en el Reglamento de una forma muy detallada. Se considera que un sistema es de alto riesgo cuando se cumplan las dos condiciones siguientes:

• Que el sistema de IA esté destinado a ser utilizado como componente de seguridad de un producto que entre en el ámbito de aplicación de los actos legislativos de armonización de la Unión enumerados en el anexo Io que el propio sistema de IA sea uno de dichos productos.
• Que el producto del que el sistema de IA sea componente de seguridad con arreglo a la letra a) o el propio sistema de IA como producto, deba someterse a una evaluación de la conformidad de terceros para su introducción en el mercado o puesta en servicio con arreglo a los actos legislativos de armonización de la Unión enumerados en el anexo I

Los sistemas de IA contemplados en el anexo III se consideran también de alto riesgo, salvo excepciones legamente, pero siempre se considerarán de alto riesgo cuando el sistema de IA elabora perfiles de personas físicas.

También en el Blog: Administradores de sociedad: consecuencias del incumplimiento de la presentación de cuentas anuales

¿Qué otras cuestiones se regulan en el Reglamento?

La ley prevé también determinadas medidas de apoyo a la inversión.

Los Estados Miembros deben establecer medidas de control y la figura del Supervisor Europeo de Protección de datos también tendrá un papel activo en la IA.

Se regulan también las obligaciones de los proveedores de los sistemas de alto riesgo, y su cooperación con las autoridades competentes, así como las obligaciones de los distribuidores y de los responsables del despliegue de sistemas de IA de alto riesgo y la evaluación de impacto correspondiente.

Para regular la proporcionalidad según los costes de innovación, las microempresas establecen un sistema de gestión de calidad para reducir la carga administrativa y los costes, pero sin afectar el nivel de protección ni la necesidad de cumplir con los requisitos aplicables a los sistemas de IA de alto riesgo.

Códigos de Conducta y Sanciones

De igual modo que para la protección de datos personales se establecerán códigos de conducta, también se preverán sanciones por los Estados Miembros.

Se prevén multas que oscilan entre el 1,5 % del volumen del negocio anual de la empresa o de 7,5 millones de euros, hasta el 7% o los 35 millones de euros.

Los Estados para la imposición de las sanciones deben tener en cuenta, la naturaleza, gravedad y duración de la infracción y de sus consecuencias, así como del tamaño del proveedor en particular si este es una pyme o una empresa emergente.

Conclusiones sobre la nueva normativa de IA

En conclusión, con la normativa aprobada lo que conseguimos es que se fomente y se controle los sistemas de Inteligencia Artificiales para hacerlos seguros, transparentes y no discriminatorios, siendo así totalmente respetuosos con los derechos de las personas. Comenzamos a su vez con la cuenta atrás para poner en marcha las regulaciones correspondientes en todos los estados miembros de Europa, que será efectiva antes del 2 de agosto de 2026.

Con Talenom, puedes delegar cualquier cuestión legal, además de laboral, fiscal y contable para cubrir cualquier área de tu negocio de la mano de expertos en el sector. Descubre nuestro recomendador de soluciones para conocer cuál se adapta mejor a tus necesidades o agenda una reunión con especialistas para exponer tus dudas.