Riesgos de la Inteligencia Artificial en la empresa

La inteligencia artificial en la empresa se está convirtiendo en una herramienta habitual para automatizar procesos y mejorar la productividad. Sin embargo, el uso de IA en el ámbito laboral también plantea importantes riesgos legales, especialmente en materia de protección de datos o falta de supervisión humana.

En España, el uso de herramientas de Inteligencia Artificial en la empresa está condicionado por el RGPD (Reglamento General de Protección de Datos), la LOPDGDD (Ley Orgánica de Protección de Datos Personales y Garantía de Derechos Digitales), la normativa laboral y, en determinados supuestos, por el Reglamento Europeo de IA. Por ello, antes de implantar estas tecnologías conviene conocer los principales riesgos del uso de IA en la empresa y las medidas necesarias para utilizarla de forma segura.

Cada vez más organizaciones necesitan establecer normas claras sobre la protección de datos de las personas trabajadoras. En Talenom podemos ayudarte a elaborar una política interna de protección de datos adaptada a tu empresa y a la normativa vigente. Consulta con nuestro equipo y te asesoraremos en materia de manera individualizada.

Principales riesgos de la Inteligencia Artificial en la empresa: aspectos legales y cómo evitarlos

Uso de IA en procesos de selección y evaluación de trabajadores

Uno de los usos más sensibles, y sin embargo, muy comunes, de la IA es su aplicación a procesos de selección de personal, especialmente en el cribado de currículums, y procesos de evaluación de desempeño. Si bien estas herramientas pueden ahorrar tiempo, pueden reproducir sesgos y generar resultados discriminatorios si se entrenan con datos históricos desequilibrados o si se usan sin una supervisión humana suficiente.

Además, el RGPD reconoce expresamente el derecho a la intervención humana. Esto es, el derecho a no ser objeto de decisiones basadas únicamente en un tratamiento automatizado que produzca efectos jurídicos o nos afecte significativamente de modo similar y, cuando proceda, solicitar la intervención humana e impugnar la decisión.

A ello se suma que el Reglamento Europeo de IA considera de alto riesgo determinados sistemas utilizados en el ámbito laboral y la gestión de personas, especialmente cuando influyen en la selección, la evaluación, la promoción, la asignación de tareas o la continuidad en el empleo. Esta calificación implica que:

• Las personas trabajadoras deben ser informadas sobre la utilización de estos sistemas y, cuando proceda, sobre la lógica aplicada y las consecuencias previstas del tratamiento.
• Los sistemas utilizados deben estar supervisados realmente por personas durante su uso, de manera que las decisiones no sean tomadas autónomamente por los modelos.

Uso de herramientas de IA gratuitas o no autorizadas

Otro de los grandes riesgos aparece cuando las personas trabajadoras utilizan, por su cuenta, herramientas abiertas de IA generativa para agilizar procesos y resolver consultas. Este hábito puede generar riesgos importantes en materia de protección de datos, especialmente cuando se utilizan para tratar información y datos personales o confidenciales.

Las soluciones abiertas pueden implicar riesgos relevantes de confidencialidad, transferencias internacionales, reutilización de datos para mejora del servicio o entrenamiento, falta de control contractual y ausencia de garantías empresariales adecuadas.

Por ello, no deberían utilizarse para tratar datos personales o información confidencial o sensible si no forman parte de las soluciones autorizadas por la empresa y sin un análisis previo de sus medidas de seguridad, flujo de datos, ubicación y transferencias de datos, entre otros.

Te puede interesar: Una nueva normativa para controlar el desarrollo de sistemas de Inteligencia Artificial seguros y transparentes

Falta de supervisión y gobernanza en sistemas de IA

La implantación de una IA no termina con su contratación. Uno de los errores más habituales es pensar que, una vez puesta en marcha, la herramienta puede funcionar de manera autónoma sin revisión humana ni seguimiento.

Las herramientas de IA deben revisarse periódicamente, contrastar sus resultados con la realidad y ajustarse cuando sus resultados sean erróneos, sesgados o poco fiables. En este punto es especialmente relevante el enfoque “Human in the Loop” (HITL), que se refiere a modelos de interacción en los que un ser humano participa activamente en el funcionamiento, supervisión y toma de decisiones finales de un sistema automatizado o de IA.

Este sistema se basa en que la máquina no actúa de forma autónoma, sino que puede asistir, proponer, filtrar o priorizar, y que una persona con experiencia técnica valida y supervisa de forma real y significativa los resultados antes de tomar decisiones relevantes.

Cuatro recomendaciones para utilizar la IA de forma segura en la empresa

1. Establecer una política interna de uso de IA

La primera recomendación es la definición de una política de uso de IA en la empresa. Esta política debe indicar qué herramientas están permitidas por la empresa, delimitar los usos permitidos, los datos que no pueden introducirse y los controles que deben aplicarse. Por ejemplo: anonimizar las consultas lanzadas a través de chats de IA generativa, de manera que no contengan ningún dato personal ni corporativo.

Una buena política interna nos servirá para reducir riesgos y para crear una cultura clara sobre el uso de IA.

2. Utilizar herramientas de IA corporativas y seguras

Si la empresa quiere permitir el uso de IA, lo recomendable es utilizar soluciones corporativas, revisadas previamente desde el punto de vista legal y de seguridad. Que una herramienta sea de pago no significa por sí sola que sea segura, pero sí permite, en muchos casos, contar con mejores garantías contractuales, mayor control sobre el tratamiento de los datos y entornos más adecuados para uso profesional.

En los casos más sensibles, también puede valorarse la implantación en entornos propios o especialmente controlados. En todo caso, antes de contratar una herramienta conviene revisar aspectos como el tratamiento de datos, la conservación, los subencargados, la trazabilidad, las transferencias internacionales y el posible uso de la información para entrenar modelos públicos.

3. Evaluar el impacto antes de implantar sistemas de IA

Antes de implantar una herramienta de IA en la empresa, debemos valorar qué impacto puede tener sobre los derechos y libertades de las personas trabajadoras cuyos datos se vayan a tratar.

En materia de protección de datos, la revisión previa debe partir de un análisis de riesgos y, si el tratamiento puede suponer un alto riesgo para los derechos y libertades de las personas, deberá hacerse una evaluación de impacto relativa a la protección de datos.

Esta evaluación debe servir para comprobar, entre otras cuestiones, qué datos va a tratar la herramienta, si son realmente necesarios, si puede generar sesgos o resultados discriminatorios, si existe supervisión humana real, dónde se alojan los datos, si hay transferencias internacionales y qué garantías ofrece el proveedor.

No se trata de un mero trámite documental, sino de una herramienta de gobernanza que permite decidir si el sistema puede utilizarse tal y como está previsto, si debe ajustarse para reducir riesgos o incluso si no debería implantarse en esos términos.

También en el Blog: Protección de Datos en las Relaciones Laborales: límites y responsabilidades de la empresa

4. Formar a las personas trabajadoras en el uso de IA

Muchos de los riesgos en el uso de IA aparecen no por una voluntad de incumplimiento, sino por un uso incorrecto o por desconocimiento. Por ello, la formación es fundamental para que las personas usuarias de las herramientas con IA sepan qué usos están permitidos, qué datos no pueden introducir, los riesgos existentes y los casos en los que es imprescindible la revisión de una persona especializada.

Además, el Reglamento de IA de la Unión Europea establece la obligación de que proveedores y responsables de uso en las empresas adopten medidas para garantizar un nivel suficiente de alfabetización en IA, en la medida de lo posible, en función de sus conocimientos técnicos, experiencia, educación y contexto del uso.

Conclusión: cómo aprovechar la IA sin asumir riesgos legales

La Inteligencia Artificial puede aportar un gran valor a las empresas, pero su uso en el ámbito laboral debe ir siempre acompañado de control, criterio y garantías. No se trata de frenar la innovación, sino de implantarla de forma segura, transparente y respetuosa con los derechos de las personas trabajadoras.

Contar con una política clara, utilizar herramientas adecuadas, formar a la plantilla y mantener una supervisión humana real son pasos esenciales para aprovechar el potencial de la IA sin asumir riesgos innecesarios. Bien utilizada, la IA no solo mejora procesos, sino que también puede convertirse en una ventaja competitiva para la empresa.

¿Tu empresa está utilizando herramientas digitales y no tienes claro las implicaciones que puede tener en relación a la protección de datos? Contacta con nuestro equipo de expertos para analizar los riesgos en materia de LOPD y diseñar una política interna de uso seguro.

Esta información es válida en la fecha de publicación, pero podría verse desactualizada por cambios normativos posteriores.