Pieza
NCSC · No toda autonomía necesita el mismo nivel de supervisión
El National Cyber Security Centre británico distingue entre personas que aprueban antes de actuar, personas que supervisan y pueden intervenir y sistemas que actúan sin revisión humana. La señal es clara: la autonomía debe graduarse según las consecuencias.
Posición en el puzzle
Dónde participa esta pieza
Grupos
- Agentes, delegación y autoridad
- Responsabilidad, trazabilidad y assurance
- Instituciones, regulación y experimentación
Entidad: UK National Cyber Security Centre (NCSC)
Referencia: guía sobre gestión del riesgo cibernético de IA agéntica · 2026
Cuando un sistema de IA empieza a actuar, la pregunta «¿hay una persona supervisando?» resulta demasiado simple.
¿La persona aprueba cada acción antes de que ocurra? ¿Observa y puede intervenir si detecta algo extraño? ¿O el sistema actúa por completo sin revisión humana?
El NCSC distingue precisamente esos niveles: human-in-the-loop, human-on-the-loop y human-out-of-the-loop.
No son etiquetas para decorar una arquitectura. Sirven para tomar una decisión práctica: cuánta autonomía estamos dispuestos a conceder en función de lo que puede pasar si el sistema se equivoca.
Comprar un billete y transferir un millón no son la misma cosa
La autonomía debe relacionarse con las consecuencias.
Un agente que ordena archivos puede admitir más libertad que uno capaz de transferir dinero, modificar infraestructura, comunicar una decisión jurídica o acceder a información muy sensible.
También importa si la acción puede deshacerse.
Borrar una recomendación equivocada es sencillo. Enviar dinero, publicar información confidencial o ejecutar un cambio sobre un sistema crítico puede no serlo.
Por eso la supervisión humana no debería definirse de una vez para «la IA de la empresa».
Necesita adaptarse al riesgo de cada actividad.
La persona que supervisa debe poder hacer algo
Hay una forma vacía de supervisión: poner a una persona delante de cientos de decisiones que ocurren demasiado rápido para que pueda revisarlas de verdad.
Eso crea apariencia de control sin capacidad de intervención.
El NCSC recomienda, en usos con consecuencias importantes, identificar responsables, mantener supervisión, utilizar alertas en tiempo real, observar qué está haciendo el agente y conservar la posibilidad de detenerlo.
La palabra importante es posibilidad.
Una persona solo puede asumir responsabilidad si dispone de información suficiente y de medios reales para intervenir.
La autonomía crea un trabajo nuevo alrededor de ella
Cuanto más trabajo deleguemos, más importante será diseñar bien los límites de esa delegación.
Esto abre oportunidades para perfiles que quizá nunca han construido un modelo de IA.
Un abogado puede ayudar a decidir qué acciones requieren aprobación y qué responsabilidad no puede delegarse.
Un especialista en seguridad puede diseñar permisos, alertas y mecanismos de parada.
Un auditor puede comprobar si la supervisión que aparece en un procedimiento existe realmente en la operación.
Un experto de negocio puede definir qué excepciones son suficientemente importantes para llegar a una persona.
Un diseñador de interfaces puede conseguir que quien supervisa vea lo relevante sin quedar inundado de eventos.
Y un responsable de operaciones puede diseñar niveles diferentes de autonomía según coste, riesgo y reversibilidad.
También aparece una oportunidad para supervisar sin frenar
El control mal diseñado puede eliminar el beneficio de los agentes.
Si una persona tiene que aprobar manualmente cualquier paso trivial, la autonomía desaparece y vuelve el cuello de botella.
Por eso existe una oportunidad profesional especialmente interesante: diseñar controles que permitan actuar con rapidez dentro de límites claros y eleven a personas solo aquello que realmente necesita juicio humano.
Eso requiere conocer simultáneamente el proceso, el riesgo y la tecnología.
Los agentes que vigilan a otros agentes no eliminan la responsabilidad
El NCSC reconoce que modelos o agentes adicionales pueden ayudar a juzgar el comportamiento de otros sistemas.
Pero también advierte que esos mecanismos deben evaluarse de manera independiente porque tienen sus propios límites y pueden producir efectos secundarios.
Añadir otro agente no resuelve mágicamente el problema del control.
A veces simplemente crea otra capa que también necesita ser entendida.
Qué nos dice esta pieza sobre Lo que viene
La autonomía no es un interruptor que pasa de apagado a encendido.
Es una decisión gradual sobre qué puede hacer un sistema, con qué acceso, bajo qué condiciones y quién puede detenerlo.
A medida que aumenten los agentes en actividades reales, crecerá el mercado de diseño de supervisión, control, incidentes, auditoría y autoridad.
Y crecerá también una función humana nueva: no realizar cada acción, sino decidir qué acciones pueden dejar de necesitarnos y en cuáles nuestra presencia sigue siendo imprescindible.