Tema del Observatorio
Agentes, delegación y autoridad
Tema sobre sistemas que dejan de limitarse a producir respuestas y empiezan a actuar dentro de procesos reales.
Varias fuentes describen una frontera práctica: la IA deja de limitarse a recomendar o generar y empieza a ejecutar pasos, usar herramientas y producir efectos dentro de un proceso.
Fuentes que ayudan a verlo
- Gartner · Los agentes especializados entran en aplicaciones empresariales
- Microsoft · Equipos humanos y agentes como hipótesis organizativa
- NCSC · Human in, on or out of the loop
- Gartner · Guardian agents para supervisar agentes
- Gartner · Agentes dentro de la cadena de suministro
- Gartner · Agentwashing y proyectos que no justifican su autonomía
Qué tienen en común
Cuando un sistema puede actuar, ya no basta con preguntar si su respuesta parece correcta. Hay que decidir qué se le permite hacer, durante cuánto tiempo, con qué recursos, bajo qué supervisión y quién conserva la autoridad para detenerlo.
La delegación deja de ser una metáfora y se convierte en diseño operativo.
Ejemplo
Un asistente que redacta un correo no necesita la misma arquitectura de control que un agente que puede enviarlo, adjuntar documentos y modificar un CRM. En el segundo caso hay que definir permisos, límites, registro y autoridad de parada antes de hablar seriamente de autonomía.
Qué capacidad puede ganar valor
Diseño de niveles de autonomía, matrices de autoridad, escalados, excepciones, handoffs entre personas y agentes y criterios para decidir cuándo una persona debe aprobar, observar o intervenir solo ante anomalías.
Profesiones próximas
Managers, responsables de operaciones, especialistas de riesgo, seguridad, producto, derecho y diseño organizativo pueden ampliar su función hacia la arquitectura de delegación. No es un trabajo exclusivamente técnico porque determina quién puede producir efectos reales.
Quién puede necesitar esta capacidad
Empresas que incorporen agentes a atención, compras, operaciones, software, finanzas, logística o cualquier proceso donde una acción automática pueda comprometer dinero, datos, derechos o relaciones.
Límite de este tema
No todo sistema llamado agente tiene autonomía significativa. Las fuentes adversariales obligan a distinguir una etiqueta comercial de una capacidad real de actuar.