Regulación de agentes de IA: qué exige la Ley de IA

Regulación de la IA con agentes: la Ley de IA de la UE no los trata como categoría aparte. Qué normas se aplican, desde cuándo y qué controles conviene tener.

No existe en la Unión Europea una regulación específica para los agentes de IA. La Ley de IA de la UE (Reglamento (UE) 2024/1689) no define el término ni crea una categoría aparte: un agente se regula como lo que es, normalmente un sistema de IA construido sobre un modelo de IA de uso general. Por tanto, se le aplican las mismas reglas que a cualquier otro sistema: las prohibiciones, los deberes de transparencia, las obligaciones de alto riesgo si el uso entra en uno de los ámbitos previstos y, en todo caso, las medidas de alfabetización en IA. Lo que cambia con los agentes no es la norma, sino el cuidado que exige cumplirla, porque un agente actúa: llama a herramientas, modifica datos y envía mensajes.

Este artículo es información general, no asesoramiento jurídico. La Comisión Europea califica sus propias consideraciones sobre los agentes de preliminares, y las orientaciones seguirán cambiando. Para decisiones con efectos jurídicos, lee el texto oficial y consulta a asesores cualificados.

Qué dice la Comisión Europea sobre los agentes de IA

La respuesta oficial más directa está en las preguntas frecuentes del AI Act Service Desk de la Comisión, en la entrada «¿Cómo se abordan los agentes de IA en el marco de la Ley de IA?». En resumen:

«Agente de IA» no tiene definición legal. La Comisión señala que el término se usa de forma coloquial y a menudo poco coherente. El consenso mínimo es que un agente recibe y procesa información de su entorno y ejecuta acciones a partir de ella, por ejemplo llamando a funciones.
No es una categoría aparte. Un agente suele contener al menos un modelo de IA de uso general y constituye un sistema de IA. Las definiciones de sistema de IA y de modelo de uso general del artículo 3 se consideran suficientes para cubrirlo.
Se aplican las reglas de sistemas y de modelos. La Comisión cita expresamente las prohibiciones de manipulación dañina y de explotación de vulnerabilidades, las normas de transparencia del artículo 50 y los requisitos del capítulo III cuando el agente es de alto riesgo.
La autonomía cuenta para los modelos más potentes. El grado de autonomía y el uso de herramientas pueden influir en que un modelo de uso general se considere de riesgo sistémico. Esto afecta a quienes desarrollan los modelos, no a la empresa que los utiliza.
Es una posición provisional. La Oficina de IA sigue observando la evolución de los agentes y estudiará medidas adicionales si hacen falta.

Qué normas se aplican hoy a un agente

Norma	Cuándo afecta a un agente	Desde cuándo
Alfabetización en IA (artículo 4)	Siempre que tu personal use o supervise agentes	2 de febrero de 2025
Prácticas prohibidas (artículo 5)	Si el agente pudiera manipular a personas de forma dañina o explotar su vulnerabilidad, entre otras prácticas	2 de febrero de 2025
Transparencia (artículo 50)	Si el agente interactúa con personas o genera contenido	2 de agosto de 2026
Alto riesgo, anexo III (capítulo III)	Si el agente se usa en ámbitos como empleo, educación, crédito o servicios esenciales	2 de diciembre de 2027
Alto riesgo en productos regulados, anexo I	Si el agente es un componente de seguridad de un producto regulado	2 de agosto de 2028
RGPD	Siempre que el agente trate datos personales	En vigor

Las fechas de alto riesgo son las que resultan del ómnibus de IA, en vigor desde el 27 de julio de 2026, tal como las recoge la Comisión Europea. Pueden volver a cambiar: compruébalas antes de planificar. Nuestra guía de los niveles de riesgo de la Ley de IA explica cada categoría con ejemplos.

Clasifica el uso, no la tecnología

Que algo se llame agente no dice nada sobre su riesgo. Lo decide la finalidad:

Agente	Finalidad	Encaje probable
Asistente de investigación interna	Buscar y resumir documentación de la empresa	Riesgo mínimo
Agente de atención al cliente	Responder consultas y abrir incidencias	Transparencia: la persona debe saber que habla con una IA
Agente comercial	Redactar y enviar correos de prospección	Transparencia según el caso, más las normas de protección de datos y de comunicaciones comerciales
Agente de selección	Ordenar o descartar candidaturas	Alto riesgo (empleo)
Agente de riesgos	Evaluar la solvencia de personas físicas	Alto riesgo (crédito)
Agente de compras	Comparar ofertas y preparar pedidos para aprobación	Riesgo mínimo, con controles internos sobre el gasto

Hay una trampa propia de los agentes: su finalidad puede ampliarse sin que nadie lo decida. Un agente con acceso al correo, al CRM y a la herramienta de recursos humanos puede acabar, por una instrucción vaga, valorando a personas. Por eso conviene definir por escrito para qué se usa cada agente y limitar sus herramientas a esa finalidad. El verificador de riesgo de la Ley de IA de la UE da una primera orientación sobre cada uso.

¿Proveedor o responsable del despliegue?

La Ley de IA reparte las obligaciones según el papel:

Si usas un agente que te ofrece un proveedor de software, eres responsable del despliegue. Es el caso más habitual.
Si construyes tu propio agente sobre la API de un modelo y lo pones en servicio con tu nombre, puedes ser proveedor de ese sistema de IA, aunque el modelo sea de un tercero.
Si cambias la finalidad de un sistema de modo que pase a ser de alto riesgo, o modificas sustancialmente uno de alto riesgo, asumes las obligaciones del proveedor (artículo 25).

El tercer punto es el más relevante para los agentes, porque son fáciles de reconfigurar: añadir una herramienta o cambiar las instrucciones puede bastar para cambiar la finalidad. El artículo sobre las obligaciones de quien usa la IA detalla ambos papeles.

Si el agente es de alto riesgo

Cuando el uso entra en un ámbito de alto riesgo, la Ley de IA contiene exigencias que encajan de lleno con los problemas típicos de los agentes:

Supervisión humana. Los sistemas de alto riesgo deben diseñarse de modo que personas puedan supervisarlos de forma efectiva, lo que incluye poder intervenir o interrumpir el sistema. Como responsable del despliegue, debes encargar esa supervisión a personas con competencia, formación y autoridad.
Registros. Los sistemas de alto riesgo deben registrar automáticamente los eventos relevantes, y quien los despliega debe conservar los registros que estén bajo su control durante al menos seis meses, salvo que otra norma disponga otra cosa.
Uso conforme a las instrucciones. Debes usar el sistema según las instrucciones del proveedor, lo que limita la libertad de darle al agente nuevas tareas.
Información a las personas afectadas y a la plantilla. Antes de usar un sistema de alto riesgo en el lugar de trabajo hay que informar a los representantes de los trabajadores y a las personas afectadas.

En un agente, la supervisión humana no puede consistir en leer un resumen al final. Hay que decidir en qué punto del recorrido se detiene el agente y espera una aprobación; lo explicamos en IA con human-in-the-loop.

Protección de datos: el otro marco que se aplica siempre

La Ley de IA no sustituye al RGPD. Con agentes, tres puntos merecen atención:

Decisiones automatizadas. El artículo 22 del RGPD reconoce el derecho a no ser objeto de una decisión basada únicamente en el tratamiento automatizado que produzca efectos jurídicos o afecte significativamente de modo similar, con excepciones tasadas. Un agente que rechaza una solicitud sin que intervenga nadie entra de lleno en este terreno.
Minimización. Un agente con acceso amplio a sistemas internos trata más datos personales de los que necesita. Limita el acceso a lo imprescindible para la tarea.
Evaluación de impacto. Cuando el tratamiento pueda entrañar un alto riesgo para las personas, el RGPD exige una evaluación de impacto. Consulta a tu delegado de protección de datos antes de conectar un agente a datos de clientes o de la plantilla.

En España, la Agencia Española de Protección de Datos supervisa el RGPD y existe una agencia estatal dedicada a la supervisión de la IA (AESIA). Qué autoridad es competente en tu caso depende del sector y del uso: confírmalo con tu asesor.

Controles que conviene tener aunque la ley no los exija

La mayoría de los agentes de una empresa no serán de alto riesgo. Aun así, un agente que actúa puede causar daños muy concretos: un pedido duplicado, un correo enviado al cliente equivocado, un registro borrado. Estos controles son buena práctica en cualquier caso:

Finalidad escrita. Una frase por agente: para qué sirve y para qué no.
Mínimo privilegio. Solo las herramientas y permisos que la finalidad exige; acceso de solo lectura siempre que baste.
Aprobación humana antes de lo irreversible. Pagos, envíos a clientes, cambios en datos maestros y cualquier decisión sobre personas.
Límites de pasos y de presupuesto. Un número máximo de iteraciones y de gasto por tarea.
Registro de acciones. Cada llamada a una herramienta y su resultado, para poder reconstruir qué pasó.
Contenido leído no es una orden. Un correo o una página web pueden contener instrucciones dirigidas al agente. Lo que el agente lee no debe desencadenar acciones sin comprobación.
Un responsable con nombre. Alguien que revise los registros y pueda apagar el agente.
Entrada en el inventario. Cada agente, con su finalidad y sus herramientas, en tu registro de herramientas de IA.

Antes de construir un agente, pregúntate si lo necesitas: muchos procesos funcionan mejor, y con menos riesgo, como un flujo de pasos fijos. Lo comparamos en agentes de IA vs. automatización de flujos.

Checklist

Cada agente tiene una finalidad escrita y un responsable.
Has clasificado cada uso: prohibido, alto riesgo, transparencia o riesgo mínimo.
Sabes si eres proveedor o responsable del despliegue de cada agente.
Las personas que hablan con el agente saben que es una IA.
El agente no decide sobre personas sin revisión humana.
Sus permisos se limitan a lo que la finalidad exige.
Las acciones irreversibles requieren aprobación.
Se registran las acciones y alguien revisa los registros.
El personal que lo usa o supervisa ha recibido formación.
Revisas la clasificación cada vez que añades una herramienta o cambias las instrucciones.

Fuentes

Comisión Europea, AI Act Service Desk: ¿Cómo se abordan los agentes de IA en el marco de la Ley de IA?
EUR-Lex: Reglamento (UE) 2024/1689 (Ley de IA)
Comisión Europea: marco regulador de la IA y calendario de aplicación
EUR-Lex: Reglamento (UE) 2016/679 (RGPD)

Preguntas frecuentes

¿Existe una regulación específica para los agentes de IA en la UE?

No. La Ley de IA de la UE no define «agente de IA» ni lo trata como una categoría aparte. Según la Comisión Europea, un agente suele contener un modelo de IA de uso general y constituye un sistema de IA, así que se le aplican las normas previstas para sistemas y modelos.

¿Un agente de IA es siempre de alto riesgo?

No. La clasificación depende del uso, no de la tecnología. Un agente que busca documentación interna es de riesgo mínimo; el mismo agente utilizado para filtrar candidaturas o evaluar la solvencia de personas entra en un ámbito de alto riesgo.

¿Qué obligaciones tiene una empresa que usa agentes de IA?

Las mismas que con cualquier sistema de IA: medidas de alfabetización en IA, no incurrir en prácticas prohibidas, cumplir los deberes de transparencia cuando proceda y, si el uso es de alto riesgo, las obligaciones del responsable del despliegue, como la supervisión humana y la conservación de registros.

¿Puede un agente de IA tomar decisiones sobre personas sin intervención humana?

Con cautela. El RGPD reconoce el derecho a no ser objeto de decisiones basadas únicamente en el tratamiento automatizado que produzcan efectos jurídicos o afecten de forma similar, salvo excepciones. Para decisiones sobre personas, prevé una revisión humana real y consulta a tu delegado de protección de datos.