Pieza
ITU · Los agentes avanzan más deprisa que las reglas para coordinarlos
El Annual AI Governance Report 2025 de la ITU dedica su primer gran tema al año de los agentes y señala nuevas cuestiones de trazabilidad, coordinación, seguridad e infraestructura. La capacidad de actuar obliga a la gobernanza a pasar del resultado aislado al sistema de acciones.
Posición en el puzzle
Dónde participa esta pieza
Grupos
- Agentes, delegación y autoridad
- Responsabilidad, trazabilidad y assurance
- Instituciones, regulación y experimentación
Entidad: International Telecommunication Union
Referencia: The Annual AI Governance Report 2025: Steering the Future of AI
Durante años, buena parte de la gobernanza de IA pudo formularse alrededor de modelos que recomendaban, clasificaban o generaban contenido.
Los agentes añaden otra pregunta: ¿qué ocurre cuando el sistema encadena acciones?
El informe anual de gobernanza de IA de la ITU coloca «The Year of AI Agents» como su primer gran tema de 2025. Describe mejoras rápidas de capacidad y destaca cuestiones emergentes de trazabilidad, coordinación entre agentes, vulnerabilidades de seguridad e infraestructura de despliegue.
La importancia de la señal no está en que la ITU anuncie un régimen global cerrado. Es justamente lo contrario: una institución internacional empieza a organizar el problema porque la capacidad técnica ya está obligando a ampliar el vocabulario de gobierno.
Una decisión aislada y una secuencia de acciones no plantean el mismo problema
Un sistema puede producir una recomendación errónea que una persona revisa antes de actuar.
Un agente puede buscar información, elegir una herramienta, iniciar una transacción, llamar a otro sistema y continuar según el resultado.
En esa secuencia aparecen fallos que no pertenecen a una única respuesta: permisos excesivos, objetivos ambiguos, coordinación defectuosa, ataques a herramientas, propagación de errores o decisiones que nadie observó en el momento adecuado.
La gobernanza tiene que seguir el flujo de acción, no solo evaluar la calidad media del modelo.
La trazabilidad se convierte en una capacidad institucional
Si varios componentes participan en un resultado, reconstruir qué ocurrió adquiere valor técnico, jurídico y organizativo.
¿Quién inició la tarea? ¿Qué información recibió el agente? ¿Qué herramientas utilizó? ¿Qué otro agente intervino? ¿Qué control bloqueó o permitió una acción?
Estas preguntas muestran por qué observabilidad y registro aparecen recurrentemente en la fase agéntica del Observatorio.
No se trata de almacenar todo indiscriminadamente. Se trata de conservar la evidencia necesaria para gobernar acciones que ya no pasan una por una por una persona.
Coordinar agentes es también coordinar responsabilidades
La interoperabilidad suele presentarse como ventaja: agentes especializados podrían encontrarse y colaborar a través de organizaciones y plataformas.
Pero cada nueva relación abre una frontera de confianza.
Un agente puede depender de información producida por otro, utilizar una herramienta operada por un tercero o aceptar una identidad que no sabe verificar.
Por eso la coordinación técnica necesita mecanismos de identidad, autenticación, políticas y límites de autoridad.
La red aumenta capacidad al mismo tiempo que aumenta la necesidad de saber quién puede confiar en quién para hacer qué.
Los estándares intentan reducir costes de coordinación
El informe sitúa también estándares, buenas prácticas y coordinación internacional entre sus temas centrales.
Cuando muchas organizaciones deben resolver por separado identidad, seguridad, evaluación o intercambio de información, la innovación puede fragmentarse.
Los estándares permiten reutilizar acuerdos y reducir el coste de colaborar, aunque siempre llegan con tensiones sobre velocidad, compatibilidad y distribución de poder.
Esto abre un campo económico propio: traducir principios de gobierno a infraestructura que pueda implementarse.
Oportunidades que abre esta transformación
Especialistas en estándares pueden diseñar perfiles aplicables a sectores concretos. Ingenieros de identidad pueden trabajar en credenciales para agentes. Equipos de seguridad pueden desarrollar controles sobre herramientas y permisos. Auditores pueden construir métodos para revisar trazas y coordinación multiagente. Profesionales de política pública pueden traducir riesgos técnicos a reglas operativas y, en sentido inverso, convertir obligaciones institucionales en requisitos verificables.
También hay espacio para plataformas de interoperabilidad, registros, evaluación independiente y servicios de assurance capaces de acompañar sistemas que cambian más rápido que los ciclos regulatorios tradicionales.
Qué nos dice esta pieza sobre Lo que viene
La ITU no demuestra que exista ya una arquitectura global de gobierno para agentes.
Demuestra algo anterior: el problema ha adquirido suficiente entidad para ocupar el centro de una agenda internacional de gobernanza.
Eso es una señal de borde.
Cuando la capacidad de actuar se expande, aparecen necesidades de coordinación, trazabilidad, identidad, seguridad y estándares. Y alrededor de cada necesidad puede aparecer trabajo especializado.
Lo que viene no es solo una red de agentes más capaces. Es también el esfuerzo por construir las reglas e infraestructuras que permitan que esa red no se vuelva ingobernable.