Pieza
Ada Lovelace Institute · Cuando el agente actúa, la responsabilidad necesita seguirle
El análisis de Ada Lovelace Institute sobre responsabilidad civil en IA muestra que autonomía, opacidad y cadenas complejas dificultan atribuir daños. La oportunidad no es borrar responsabilidad, sino construir mejores mecanismos de control, trazabilidad, aseguramiento y reparación.
Posición en el puzzle
Dónde participa esta pieza
Grupos
- Responsabilidad, trazabilidad y assurance
- Instituciones, regulación y experimentación
Autora: Julia Smakman · Ada Lovelace Institute
Referencia: Risky business: An analysis of the current challenges and opportunities for AI liability in the UK · 8 de diciembre de 2025
Delegar una tarea en una máquina no hace desaparecer las consecuencias de esa tarea.
Pero sí puede hacer mucho más difícil responder una pregunta elemental: si algo sale mal, ¿quién podía haberlo evitado y quién debe responder?
El informe de Ada Lovelace Institute estudia la responsabilidad civil por daños relacionados con IA, principalmente en el Reino Unido. Su diagnóstico no es que el derecho se haya quedado sin ninguna regla aplicable. Es más incómodo: las reglas existentes pueden volverse difíciles de utilizar cuando la tecnología introduce opacidad, cadenas de proveedores, comportamiento menos previsible y grados crecientes de autonomía.
La autonomía cambia el problema del control
En una herramienta convencional, la relación entre usuario, instrucción y resultado suele ser relativamente visible.
Un sistema agéntico puede recibir un objetivo, elaborar un plan, utilizar herramientas y ejecutar varios pasos sin que una persona decida cada movimiento.
Eso importa jurídicamente porque muchas reglas de responsabilidad descansan, de una manera u otra, sobre ideas de control, previsibilidad, diligencia y causalidad.
Ada señala que cuanto mayor es la autonomía, menor puede ser la capacidad práctica del usuario para prever cada acción o intervenir antes del resultado.
No significa que el usuario deje automáticamente de ser responsable. Significa que la distribución de responsabilidad puede necesitar reflejar quién tenía realmente capacidad de prevenir el daño.
El problema no empieza en el momento del accidente
El informe describe dificultades que aparecen antes de llegar a un tribunal.
Una organización puede no conocer bien el riesgo jurídico que asume al desplegar IA. Los contratos pueden trasladar parte de ese riesgo a actores situados más abajo en la cadena de valor. Y una persona perjudicada puede tener problemas para obtener la evidencia necesaria para demostrar qué sistema falló, por qué falló y qué actor contribuyó al daño.
Cuando intervienen modelo, proveedor, integrador, datos, herramientas y organización usuaria, la causalidad deja de parecer una línea simple.
La capacidad técnica puede distribuirse entre muchos actores; la responsabilidad, sin embargo, necesita algún modo de reconstruir esa distribución después.
Los agentes convierten la trazabilidad en infraestructura jurídica
Ada examina propuestas como identificadores de agentes y registros de actividad.
Su importancia va más allá de la ingeniería.
Si un agente puede actuar frente a terceros, contratar servicios, transmitir información o modificar sistemas, identificar qué agente intervino, para quién actuaba y qué secuencia siguió puede convertirse en condición práctica para exigir responsabilidad.
Aquí la trazabilidad deja de ser únicamente una herramienta para depurar software. Puede ser también evidencia para gobernar, asegurar y reparar.
La misma lógica explica por qué adquieren valor los límites de autorización, los puntos de aprobación humana y los registros de herramientas utilizadas.
El informe no ofrece una solución jurídica única
Ada analiza varias posibilidades, no una receta cerrada.
Entre ellas aparecen la responsabilidad objetiva para usos especialmente peligrosos o de autonomía muy elevada, la adaptación de reglas probatorias, mecanismos para repartir responsabilidad entre varios actores y debates sobre responsabilidad vicaria o personalidad jurídica.
El propio informe señala dificultades y límites de estas vías.
Por tanto, no debemos leer la pieza como una afirmación de que los agentes vayan a recibir personalidad jurídica ni como anuncio de un régimen único de responsabilidad.
La señal es otra: la autonomía técnica aumenta la presión para rediseñar cómo atribuimos control, riesgo y reparación.
El seguro puede entrar, pero no resuelve por sí solo la incertidumbre
La responsabilidad y el seguro están conectados porque el seguro permite transferir parte del riesgo económico.
Pero asegurar bien exige comprender qué se está cubriendo, qué controles existen, quién opera el sistema y qué exposición puede producir.
Si nadie puede reconstruir cómo actuó un agente o qué parte de la cadena tenía capacidad de intervención, el problema no desaparece al contratar una póliza.
Eso abre una necesidad previa: convertir sistemas difíciles de entender en riesgos suficientemente describibles, auditables y gobernables.
Oportunidades que abre esta transformación
Aquí aparece un campo de trabajo que no pertenece solo a ingenieros de IA.
Abogados de responsabilidad civil, seguros y contratación pueden especializarse en cadenas de responsabilidad de sistemas agénticos. Corredores y aseguradores pueden desarrollar criterios de suscripción basados en autonomía, supervisión, registros y controles. Profesionales de compliance y gestión de riesgo pueden diseñar matrices de autorización y escalado. Especialistas técnicos pueden construir trazabilidad, identificación de agentes y evidencias de ejecución que tengan utilidad jurídica y aseguradora.
También aparece espacio para servicios de assurance: evaluación independiente de si un sistema dispone de controles suficientes antes de operar en contextos donde un error puede producir daño real.
La oportunidad no consiste únicamente en vender una nueva póliza o redactar un nuevo contrato. Consiste en hacer gobernable una capacidad que actúa.
Profesiones existentes pueden adquirir una función nueva
Un abogado que hasta ahora revisaba cláusulas tecnológicas puede pasar a diseñar arquitectura de responsabilidad.
Un corredor que evaluaba exposición cibernética puede incorporar autonomía y trazabilidad al análisis de riesgo.
Un auditor puede necesitar revisar no solo resultados, sino permisos, secuencias de actuación y capacidad de intervención humana.
Un responsable de producto puede tener que demostrar qué precauciones eran razonables cuando el sistema fue desplegado.
No son profesiones nuevas desde cero. Son profesiones existentes absorbiendo una nueva clase de capacidad y de riesgo.
Qué nos dice esta pieza sobre Lo que viene
La fase agéntica no termina cuando un sistema aprende a ejecutar tareas. En ese momento empieza otra transformación: instituciones, contratos, seguros y profesiones deben aprender a convivir con acciones que ya no pasan una por una por una persona.
La pieza favorece una hipótesis concreta de Lo que viene: cuando aumenta la capacidad de actuar, aumenta también el valor económico de las capacidades capaces de limitar, observar, atribuir y reparar.
No demuestra que exista ya un régimen jurídico estabilizado ni un mercado asegurador maduro para toda responsabilidad agéntica.
Demuestra algo anterior y más sólido: la autonomía crea necesidades institucionales nuevas, y esas necesidades pueden convertirse en trabajo, servicios e infraestructura.