Observatorio público

IA, agencia y gobernabilidad

Capacidad generativa, agentes, integración, autoridad humana, seguridad, evaluación, trazabilidad, responsabilidad e instituciones que necesitan gobernar un objeto que cambia deprisa.

La pregunta ya no es sólo qué puede producir una inteligencia artificial. Cuando una capacidad entra en procesos reales —y especialmente cuando puede utilizar herramientas o actuar— aparecen problemas de integración, autoridad, seguridad, evaluación, trazabilidad y responsabilidad.

Este observatorio no duplica el corpus. Reúne una selección transversal de investigaciones que ya existen en Paraíso y permite leerlas como un campo propio.

Qué seguimos

  • qué capacidades técnicas se vuelven accesibles y cuáles siguen siendo escasas;
  • qué cambia cuando la IA pasa de asistir a actuar;
  • cómo se reparten permisos, identidad, supervisión y capacidad de corte;
  • cómo evaluar seguridad, observabilidad y resultados;
  • quién responde y qué trazabilidad hace posible esa responsabilidad;
  • cómo reguladores e instituciones conservan funciones de control mientras cambia el objeto técnico.

Las mismas piezas pueden seguir perteneciendo a Lo que viene o alimentar el Observatorio de Oportunidades. Esta página añade una forma de descubrirlas; no reescribe su genealogía.

Capacidad

Qué hace posible la IA y qué cambia al integrarla

Separa el salto técnico de la capacidad organizativa real: productividad, workflows, adopción y captura de valor.

IA generativa y ampliación del trabajo cognitivoTema sobre cómo la IA generativa abarata y amplía tareas de lenguaje, análisis, creación y software.Workflow, integración y modelo operativoTema sobre por qué incorporar IA no crea valor por sí solo si no cambia el flujo de trabajo y la organización que la rodea.Adopción, medición y captura de valorTema sobre la distancia entre usar IA, invertir en IA y convertir esa actividad en resultados sostenibles.Adopción superficial y pérdida de capacidadLectura sobre la distancia entre adopción, actividad tecnológica y capacidad real cuando los procesos, la memoria, las métricas y la organización no cambian.MIT NANDA · Adopción sin transformaciónEl informe preliminar The GenAI Divide señala una brecha entre la enorme actividad empresarial alrededor de la IA generativa y el impacto económico conseguido por muchas iniciativas. El famoso 95 % debe tratarse con cautela; la señal más sólida es la distancia entre pilotar y transformar.BCG · Cuando la adopción crece más deprisa que el valorBCG observa una brecha creciente entre empresas que consiguen valor con IA y organizaciones que siguen rezagadas. Las primeras reinvierten resultados en personas y tecnología, creando una posible dinámica acumulativa: aprender a transformarse facilita la siguiente transformación.

Agencia

Cuando la IA deja de proponer y empieza a actuar

Agentes, herramientas, contexto, identidad, permisos y autoridad humana cuando el sistema puede producir efectos reales.

Agencia operativa y autoridad humanaLectura sobre cómo los agentes convierten autonomía, delegación, permisos y supervisión en problemas operativos de primera magnitud.Agentes, delegación y autoridadTema sobre sistemas que dejan de limitarse a producir respuestas y empiezan a actuar dentro de procesos reales.Herramientas, contexto, permisos e identidadTema sobre lo que un sistema necesita saber y poder hacer para actuar dentro de una organización sin perder control.Microsoft · Equipos de personas y agentesEl Work Trend Index 2025 de Microsoft describe una empresa emergente organizada alrededor de inteligencia bajo demanda y equipos de personas y agentes. Es una visión de proveedor, no un futuro demostrado, pero señala un cambio posible en el trabajo: de hacer cada tarea a dirigir combinaciones de capacidad.Agentes, herramientas y trazabilidad de ejecuciónLa plataforma de agentes de OpenAI incorporó herramientas, orquestación y tracing como bloques explícitos. La señal no es una prueba independiente de adopción, sino evidencia de que los propios proveedores tratan observabilidad, guardrails y reconstrucción de acciones como infraestructura necesaria.Gartner · Agentwashing y límites de la autonomíaGartner prevé que más del 40 % de los proyectos de IA agéntica se cancelará antes de acabar 2027 por costes, valor poco claro o controles insuficientes. También advierte de agentwashing: rebautizar productos como agentes sin capacidades agénticas sustanciales.

Control

Seguridad, evaluación, observabilidad y mecanismos de corte

La autonomía útil exige saber qué hace el sistema, con qué límites, cómo se evalúa y cómo se detiene.

Gobierno de la capacidad artificialLectura sobre seguridad, evaluación, trazabilidad, responsabilidad y controles necesarios cuando la IA entra en decisiones y acciones relevantes.Seguridad, evaluación y observabilidadTema sobre cómo probar, observar y contener sistemas de IA cuando sus comportamientos no pueden darse por supuestos.OWASP · Riesgos de la IA agénticaOWASP identifica superficies de ataque específicas de sistemas agénticos: razonamiento, memoria, herramientas, identidad, supervisión humana y relaciones entre agentes. Cuando un sistema puede actuar, el problema deja de ser solo una respuesta equivocada.OWASP · Riesgo de skills y cadena de suministroOWASP sitúa la cadena de suministro agéntica entre los nuevos riesgos: herramientas, extensiones, servidores, instrucciones y componentes de terceros pueden ampliar capacidad y, al mismo tiempo, introducir accesos o comportamientos no deseados.Gartner · Guardian agentsGartner prevé que los guardian agents formen una parte relevante del mercado agéntico hacia 2030. Son sistemas destinados a observar, revisar, limitar o bloquear acciones de otros agentes. La señal es de segundo orden: la autonomía crea su propio mercado de supervisión.NIST · Perfil de riesgo para IA generativaEl perfil NIST AI 600-1 adapta el AI Risk Management Framework a IA generativa y trata la confianza como una tarea continua de diseño, desarrollo, uso y evaluación. La señal desplaza el gobierno desde una aprobación puntual hacia una capacidad persistente.

Gobernabilidad

Responsabilidad, regulación e instituciones que aprenden

Conservar funciones de control estables mientras cambian modelos, agentes, mercados y mecanismos técnicos.

Instituciones que aprenden mientras cambia el objetoLectura sobre instituciones que deben conservar responsabilidad, seguridad y derechos mientras aprenden cómo funciona una capacidad tecnológica que sigue cambiando.Responsabilidad, trazabilidad y assuranceTema sobre cómo conservar control, evidencia y reparación cuando decisiones y acciones incorporan IA.Instituciones, regulación y experimentaciónTema sobre cómo reguladores e instituciones intentan conservar funciones públicas mientras cambia la tecnología que deben gobernar.EU AI Act · Marco de riesgoLa Ley de IA europea clasifica usos por niveles de riesgo y establece obligaciones de transparencia, documentación, supervisión y control. La señal es económica además de jurídica: utilizar IA empieza a exigir nueva infraestructura profesional.OECD · Principios de IALos principios de IA de la OCDE, adoptados en 2019 y actualizados en 2024, ponen transparencia, seguridad, responsabilidad y respeto de derechos junto a la innovación. La señal es anterior al boom generativo: la capacidad técnica necesita condiciones de confianza para extenderse.ITU · Gobernanza de IAEl Annual AI Governance Report 2025 de la ITU dedica su primer gran tema al año de los agentes y señala nuevas cuestiones de trazabilidad, coordinación, seguridad e infraestructura. La capacidad de actuar obliga a la gobernanza a pasar del resultado aislado al sistema de acciones.