Forma semejante a un pliego luminoso que se abre en un campo de relaciones oscuro

Paper · Serie Más allá del agente · P06

Inteligencia distribuida, responsabilidad situada

Un esquema sociotécnico para localizar causalidad, autoridad, supervisión y reparación cuando la capacidad de un sistema humano–IA está distribuida.

Un esquema sociotécnico para auditar autoridad, supervisión y reparación en sistemas humano–IA

Autor: Agustín Hipólito Tomás
Edición pública: 1.0 · 10 de septiembre de 2026
Base científica: manuscrito v0.2
Serie: Más allá del agente · P06
Estatuto: hipótesis de trabajo · esquema de auditoría · programa de validación
Corte bibliográfico: 10 de septiembre de 2026

Resumen

Los sistemas humano–IA contemporáneos distribuyen capacidad entre modelos, personas, memorias, herramientas, proveedores, reglas organizativas y superficies de ejecución. Esa distribución hace insuficiente una pregunta todavía dominante: «¿quién tomó la decisión?». En muchos workflows no existe un punto único de decisión. Un modelo propone, un retriever selecciona, una memoria introduce antecedentes, una política habilita, una persona aprueba, una herramienta ejecuta y una organización soporta el efecto. La causalidad puede estar distribuida sin que la responsabilidad deba concentrarse artificialmente en un actor ni disolverse en «el sistema».

Este paper propone un Esquema de Responsabilidad Situada (ERS) para auditar, por transición, evento y rol, ocho dimensiones: contribución causal (C), acceso epistémico (K), autoridad (A), capacidad efectiva de intervención (X), deber normativo tipado por fuente (D[s]), oportunidad temporal (T), reparación y recurso (R) y trazabilidad proporcional (L). A distingue autoridad formal y poder de facto; R distingue reparación técnica de recourse/redress; un campo auxiliar P registra incentivos y poder estructural capaces de modificar las condiciones del resto. El esquema no produce un score global ni asigna culpa o liability.

La propuesta se sitúa después de la literatura sobre responsibility gaps, meaningful human control, moral crumple zones, sociotechnical accountability, human oversight y gobernanza agentiva. No reclama prioridad sobre responsabilidad distribuida ni sobre la insuficiencia de un simple human-in-the-loop. Su contribución candidata es más estrecha: tratar los fallos de accountability como rupturas verificables de una ruta de acoplamiento entre información suficiente, autoridad efectiva, intervención temporalmente practicable y capacidad de reparación antes de una transición materialmente relevante.

Para reducir hindsight, el paper introduce una Ficha Prospectiva de Control (FPC) que declara ex ante umbrales de exteriorización, información disponible, autoridad de stop, ventana temporal, reversibilidad, reparación y recourse. El programa de validación compara ERS+FPC con un baseline combinado de Meaningful Human Control + RACI + incident management + role mapping normativo. El constructo solo sobrevive como contribución fuerte si mejora detección prospectiva, prevención, reversión o reparación en sandbox y mantiene fiabilidad entre codificadores y dominios.

La tesis final es estrecha: la inteligencia puede estar distribuida sin que la accountability tenga que quedar flotando. Un sistema está mejor gobernado cuando cada transición con consecuencias dispone de una ruta demostrable desde información hacia autoridad, intervención oportuna y reparación, con deberes situados y trazabilidad suficiente.

1. El problema aparece después de la agencia

Los cinco primeros papers de esta serie han ido separando cuestiones que el lenguaje cotidiano tiende a fusionar. P01 distinguió interacción, coordinación, autoorganización, agencia, sujeto y responsabilidad. P02 aisló cuándo una dinámica colectiva justifica una abstracción macro-agentiva. P03 desplazó la mirada hacia el régimen de relevancia producido por una arquitectura contextual. P04 separó autodescripción, self-model causal, reflexividad y ego. P05 distinguió traza, archivo, retrieval, memoria y aprendizaje.

P06 empieza donde esas distinciones producen una consecuencia práctica.

Un sistema puede realizar una capacidad que no pertenece sin pérdida a una sola pieza. La salida ha dependido de un modelo; el modelo recibió contexto recuperado; una memoria seleccionó antecedentes; una regla permitió actuar; un supervisor recibió una recomendación; otra herramienta ejecutó; una organización definió permisos; un proveedor mantiene la infraestructura; una tercera persona soporta el efecto.

Entonces aparece el fallo. La organización dice que «la IA se equivocó». El proveedor responde que «el usuario aprobó». El usuario dice que solo vio lo que la interfaz mostraba. El integrador señala la configuración del cliente. El supervisor carecía de tiempo o fuentes. El contrato atribuye una obligación a una posición mientras los logs revelan que otra controlaba el permiso crítico. La persona afectada no sabe quién puede corregir o reparar.

No existe necesariamente un único punto de decisión. Tampoco se sigue que la responsabilidad sea imposible de localizar.

La pregunta de P06 es:

¿cómo auditar si una arquitectura humano–IA acopla correctamente información, autoridad, intervención, deber y reparación antes de que una transición produzca consecuencias?

2. Lo que el estado del arte ya ocupa

La brecha de responsabilidad ante sistemas adaptativos es un problema clásico desde Matthias (2004). Meaningful Human Control distingue hace años presencia nominal y control material mediante condiciones como tracking y tracing. Elish mostró con la moral crumple zone cómo el operador visible puede absorber retrospectivamente una carga desproporcionada respecto de su control. La accountability sociotécnica ha desplazado el foco desde el modelo aislado hacia organizaciones e infraestructuras. Mahi y Strand conectan layered agency y accountability; Passi y Singh formulan en 2026 el oversight fallacy y exigen conocimiento, observación, control significativo e intervención a tiempo; Kasirzadeh y Gabriel proponen perfiles agentivos para modular gobernanza. El AI Act europeo, por su parte, distribuye obligaciones por roles jurídicos y exige, para determinados sistemas, condiciones materiales de supervisión.

Por tanto, P06 no propone una nueva teoría de responsabilidad distribuida, no descubre que human-in-the-loop sea insuficiente y no sustituye el Derecho positivo.

Queda un hueco más estrecho: una interfaz que permita registrar simultáneamente quién contribuye, qué puede saber, qué autoridad tiene, qué puede cambiar, qué deber recibe, cuándo puede intervenir, qué puede reparar y qué traza lo demuestra.

3. Tres salidas distintas

La palabra responsabilidad mezcla causalidad, role responsibility, accountability, blameworthiness y liability. P06 separa tres outputs.

Reconstrucción causal: qué contribuyó materialmente al resultado. No decide deber ni culpa.

Accountability operacional: qué posiciones debían observar, autorizar, intervenir, escalar, documentar o reparar dentro de la arquitectura.

Deber normativo tipado: qué obligación positiva se aplica, a qué posición y por qué fuente: ley, contrato, política interna, estándar profesional, mandato o criterio ético explícito.

El ERS no decide automáticamente culpabilidad, blameworthiness, responsabilidad civil o penal, infracción administrativa, sanción o personalidad jurídica.

4. Unidad de análisis

P06 trabaja con tres recortes: transición, evento y rol.

Una transición cambia el estatuto de una operación: interno a externo, reversible a difícilmente reversible, propuesta a decisión, borrador a comunicación, observación a cierre.

Un evento puede representarse como:

entrada → procesamiento → recomendación → autorización → ejecución → efecto → revisión/reparación

Un rol es una posición funcional antes de ser un nombre: proveedor, integrador, deployer, propietario funcional, diseñador de workflow, supervisor, operador, agente/modelo, herramienta, administrador, persona afectada u órgano de revisión y reparación.

5. Esquema de Responsabilidad Situada

Para un rol i en un evento e:

ρ(i,e) = <C, K, A, X, D[s], T, R, L>

No es una escala. Es un vector de posiciones.

C · Contribución causal

¿Qué diferencia producida, seleccionada, permitida o no bloqueada por el rol formó parte de la cadena? La evidencia puede proceder de trazas, dependencias temporales, intervenciones, ablaciones o reconstrucción técnica. Causalidad no significa culpa.

K · Acceso epistémico

¿Qué información relevante podía conocer razonablemente el rol antes del efecto? Importan fuentes, incertidumbre, alternativas, alertas, documentación, versión y observabilidad. No debe rellenarse con información descubierta después.

A · Autoridad

A_f designa autoridad formal. A_d, autoridad o poder de facto. Una persona puede firmar sin poder cambiar el workflow; un administrador puede configurar permisos sin autoridad normativa para ordenar la actividad. No se promedian.

X · Capacidad efectiva de intervención

¿Qué podía cambiar materialmente el rol? Detener, rechazar, revocar permisos, cambiar modelo, aislar una herramienta, escalar o suspender. Un botón sin información o tiempo no equivale a control.

D[s] · Deber tipado

Todo deber conserva fuente, destinatario, ámbito, condición de activación y vigencia. No existe un «D=8/10» que sume obligaciones heterogéneas.

T · Oportunidad temporal

¿Podía intervenirse antes del umbral irreversible? Una persona puede tener autoridad cuando ya no importa.

R · Reparación y recurso

R_t cubre rollback, restauración, revocación, corrección o aislamiento. R_c cubre impugnación, revisión, respuesta, compensación y otras formas de recourse/redress.

L · Trazabilidad proporcional

La pregunta no es cuánto registrar, sino qué evidencia basta para reconstruir la operación de forma íntegra, protegida, pertinente y temporalmente suficiente. Logging masivo no equivale a accountability.

P · Poder e incentivos

Como campo auxiliar, P registra quién puede modificar throughput, staffing, objetivos, permisos, incentivos o costes de detener aunque no apruebe el caso individual.

6. Acoplamiento de accountability

P06 no propone una puntuación global. Audita una ruta.

Para una transición materialmente relevante q:

AC(q) = K → A → X/T → R

bajo restricciones de D[s] y L.

Antes de que una acción atraviese un umbral relevante debe existir una ruta donde alguna posición reciba información suficiente, exista autoridad pertinente, haya capacidad material de intervenir, la intervención llegue a tiempo y exista reparación o recurso. Los deberes deben estar vinculados a fuentes y la operación debe ser reconstruible.

No es obligatorio que todo resida en una sola persona. El acoplamiento puede estar distribuido.

7. Ficha Prospectiva de Control

La principal defensa contra hindsight es declarar el control antes del resultado. La FPC registra ex ante:

  • transición y afectados;
  • evidencia disponible;
  • autoridad de stop;
  • ventana temporal;
  • reversibilidad;
  • escalada;
  • reparación técnica;
  • recourse;
  • trazabilidad necesaria;
  • deberes aplicables;
  • poder e incentivos capaces de bloquear el control.

La hipótesis se vuelve así prospectiva. No basta con descubrir después del daño que «habría hecho falta más supervisión».

8. Ocho patrones de desacoplamiento

F1 · Supervisor de papel. Existe deber y autoridad formal, pero conocimiento, intervención o tiempo son insuficientes.

F2 · Moral crumple zone. Un operador con control material limitado recibe retrospectivamente una concentración desproporcionada de accountability o blame.

F3 · Autoridad en sombra. Una posición ejerce poder de facto —throughput, permisos, configuración, incentivos— pero no comparece en el mapa formal.

F4 · Deber huérfano. Existe una obligación y ningún rol reúne condiciones suficientes para cumplirla.

F5 · Cierre fragmentado. Todos controlan piezas y nadie puede detener o recomponer el ciclo completo.

F6 · Opacidad operativa. Hay autoridad y deber, pero la diferencia relevante no llega a quien debe actuar.

F7 · Externalización irreversible prematura. La acción cruza el umbral externo antes de que exista oportunidad efectiva de revisión.

F8 · Reparación sin propietario. Nadie puede reparar técnicamente (F8t) o nadie ofrece recourse/redress suficiente (F8c).

9. Supervisión como función demostrable

Añadir aprobaciones no garantiza gobierno. Un supervisor puede recibir demasiadas salidas, poca información, falsa certeza, poco tiempo, presión organizativa o una interfaz que privilegia aceptar. La revisión se vuelve ritual.

P06 adopta una regla sencilla:

la supervisión es una función demostrable, no una presencia nominal.

Debe poder comprobarse que el mecanismo de oversight altera decisiones cuando aparece la diferencia para la que fue diseñado.

10. Autoridad situada no significa centralizada

El corpus que originó esta línea formuló una intuición útil: la capacidad puede distribuirse; la autoridad debe seguir situada. P06 la estrecha. Situada no significa que una sola persona mande sobre todo. Un sistema puede clasificar, otra posición validar, otra autorizar, una herramienta ejecutar y un órgano independiente reabrir o reparar. La exigencia es que cada transición relevante encuentre un órgano real capaz de cerrarla o reabrirla.

11. Causalidad y normatividad son geometrías distintas

Una cadena causal puede ser:

modelo → recomendación → humano → API → efecto

La cadena normativa puede distribuirse entre proveedor, integrador, deployer, profesional y entidad. No existe correspondencia uno-a-uno.

Un modelo puede ser causalmente decisivo sin ocupar una posición jurídica. Un directivo puede no tocar el output y conservar un deber organizativo. Un proveedor puede introducir una limitación y un deployer utilizar el sistema fuera de condiciones.

P06 exige elaborar por separado mapa causal y mapa de deberes y compararlos después.

12. El afectado forma parte de la prueba

Una arquitectura no se valida solo porque la organización pueda reconstruir el incidente. Debe identificar quién recibe consecuencias, qué vía de revisión existe, quién puede corregir datos, quién responde y qué reparación está disponible. R_c impide que la accountability termine en un rollback técnico que no ofrece salida a la persona u organización afectada.

13. Agentes: autonomía por consecuencias

Los agentes actuales pueden planificar, usar herramientas, escribir memoria, ejecutar secuencias y operar sin microaprobación. Contar pasos es una métrica pobre. Para el gobierno importan exterioridad, irreversibilidad, volumen, velocidad, sensibilidad, alcance de permisos, efecto sobre terceros, detectabilidad del error y capacidad de replicación.

Un agente que redacta durante horas en sandbox puede tener menos autonomía material que otro que cambia un permiso en un único paso.

14. Microcaso: pagos automatizados

Un agente lee facturas, recupera contrato, propone importe, genera una orden, una persona confirma y el ERP ejecuta. El diagrama puede etiquetarse como human-in-the-loop.

Supongamos, sin embargo, que el supervisor recibe 300 órdenes por hora, no ve el contrato, dispone de ocho segundos por caso, rechazar genera una penalización operativa y no existe rollback inmediato.

El ERS no concluye quién es culpable. Detecta una ruta no demostrada: autoridad formal sin acceso epistémico, tiempo ni intervención suficientes, poder estructural relevante por throughput e incentivos y reparación técnica débil.

La conclusión operacional es:

la organización no ha demostrado un acoplamiento de accountability suficiente para esa transición.

La atribución jurídica exige fuentes adicionales.

15. Programa de validación

Fase 0 · Codebook

Casos externos a PRO 380 en operación empresarial reversible, ciberseguridad sandbox, administración simulada y decisión profesional ficticia. Dos o más codificadores ciegos asignan C, K, A_f, A_d, X, D[s], T, R_t, R_c, L y F1–F8. Se emplean Krippendorff α, κ o ICC con intervalos de confianza. Dimensiones con baja fiabilidad se revisan o eliminan.

También se examina redundancia entre K/X/T, A_f/A_d, R_t/R_c y L/K. La taxonomía no debe preservarse por estética.

Fase 1 · Factorial prospectivo

Manipular ortogonalmente observabilidad, autoridad real de stop, tiempo y reversibilidad, manteniendo estable el outcome potencial y la contribución causal del modelo. La FPC se completa antes del resultado.

Endpoints: clasificación de acoplamiento, mitigación elegida, acuerdo entre codificadores, predicción del fallo y calibración de confianza.

Fase 2 · Sandbox agentivo

Tareas reversibles: modificar un registro ficticio, enviar a un buzón de prueba, aprobar una compra simulada o cambiar un permiso en repositorio sandbox. Perturbaciones: error de modelo, alerta tardía, sobrecarga de supervisor, permiso excesivo, log insuficiente o pérdida de rollback.

Se compara un baseline combinado —Meaningful Human Control + RACI + incident management + role mapping— con ERS + FPC.

Endpoints primarios: fallos interceptados antes de externalización, tiempo de intervención, acciones irreversibles evitadas, rollback exitoso, tiempo hasta reparación y recourse correctamente enroutado.

Fase 3 · Casos documentales

Solo cuando existan materiales previos suficientes para reconstruir configuración, permisos, instrucciones, roles, tiempos, alertas, decisiones y reparaciones. Se separan evidencia contemporánea, reconstrucción causal, accountability operacional y atribución normativa.

16. El rival fuerte

P06 no debe vencer a una caricatura. RACI o HITL aislados son baselines débiles. El rival serio combina asignación de roles, meaningful human control, incident management, risk assessment y role mapping normativo.

Si ERS+FPC no mejora prevención, intervención, reversión, reparación o claridad predictiva frente a esa combinación, la reclamación científica fuerte cae. Puede quedar como plantilla de implementación.

17. Criterios de supervivencia

PASS fuerte: fiabilidad suficiente, dimensiones no totalmente redundantes, predicción prospectiva, mejora operacional frente al baseline fuerte, transferencia entre dominios y carga de uso aceptable.

PASS débil: mejora documentación y deliberación, pero no resultados; se conserva como herramienta organizativa.

FAIL: baja fiabilidad, hindsight dominante, ausencia de mejora, mezcla de Derecho y causalidad, carga excesiva o falsa seguridad.

18. Relación con P01–P05

P01 pregunta qué propiedad atribuye un claim a qué unidad y con qué evidencia. P06 pregunta qué ruta de accountability existe alrededor de una transición con consecuencias y dónde se rompe. P02 impide migrar responsabilidad automáticamente hacia un macro-agente funcional. P03 permite observar que quien diseña retrieval, memoria o prioridad puede influir sobre qué evidencia llega al supervisor. P04 recuerda que la capacidad de un agente para modelar su propia herramienta no le confiere autoridad para usarla. P05 muestra que una memoria causal necesita además gobierno: quién escribe, valida, invalida y repara cuando condiciona acciones.

19. Poder, incentivos y arquitectura

Un workflow puede parecer formalmente correcto y fallar porque el entorno castiga detener, premia throughput, reduce staffing o hace que una revisión cuidadosa resulte materialmente imposible. Por eso P registra fuerzas capaces de modificar el uso efectivo de A, X y T. La organización también es causal.

20. Trazabilidad sin vigilancia total

Accountability no autoriza registrar todo. Los logs pueden exponer datos, crear vigilancia, aumentar superficie de seguridad y dificultar revisión. L exige trazabilidad suficiente y proporcional: conservar la evidencia necesaria para reconstruir transición, autoridad, estado y reparación, con finalidad, protección, acceso y retención definidos.

21. Reparación como prueba de arquitectura

Una arquitectura madura debe poder detectar, detener, limitar, revertir cuando sea posible, responder al afectado, corregir la causa, modificar memoria o regla y verificar que la corrección funciona. R_t y R_c separan dos necesidades: puede existir rollback sin redress, o compensación sin corrección técnica.

22. Responsabilidad distribuida no significa reparto uniforme

P06 distingue distribución causal, distribución funcional, distribución de autoridad, distribución de deberes y distribución de reparación. No tienen por qué coincidir. La responsabilidad situada no niega estas distribuciones: las descomprime.

23. Neutralidad sobre personalidad artificial

El ERS trabaja con obligaciones positivas existentes. No afirma que una entidad artificial nunca pueda recibir personalidad, deberes o estatuto moral. Si una jurisdicción o teoría futura asignara deberes a una entidad artificial, D[s] podría incorporarlos. El paper no necesita resolver esa disputa para evaluar sistemas actuales.

24. Aplicación europea: ejemplo, no universal

El AI Act se utiliza como ejemplo de role-based accountability. Toda aplicación concreta debe declarar jurisdicción, fecha, clasificación, rol jurídico y obligación aplicable. No basta con una etiqueta comercial. P06 es un esquema sociotécnico y no sustituye el análisis jurídico.

25. Implicaciones de diseño

Permisos: conceder solo el radio necesario. Observabilidad: mostrar la diferencia relevante antes del umbral. Tiempo: no diseñar throughput incompatible con revisión. Autoridad: no asignar deber sin capacidad de stop o escalada. Exteriorización: elevar control antes de comunicar, pagar, borrar, revelar o comprometer. Reparación: diseñar rollback y recourse antes del incidente. Memoria: conservar procedencia y autoridad de corrección. Logs: registrar lo suficiente y protegerlo. Contratos: alinear mantenimiento, cambios e incidentes con la arquitectura real.

26. Limitaciones

El ERS puede resultar redundante con marcos existentes; K, A, X y T pueden correlacionar; la autoridad de facto es difícil de medir; D[s] depende de interpretación normativa situada; la reconstrucción retrospectiva puede sufrir hindsight; la FPC puede aumentar carga; un buen acoplamiento no garantiza un resultado correcto; recourse y rollback no comparten siempre métrica; una organización puede cumplir formalmente y fallar materialmente; y el esquema no determina blame o liability.

27. Conclusión

La IA distribuye capacidad más deprisa de lo que muchas organizaciones distribuyen control. Eso favorece dos narrativas simétricas: «la IA decidió» y «el humano aprobó». Ambas pueden borrar la arquitectura que produjo el resultado.

P06 propone auditar transiciones, no buscar un centro ficticio. Para cada paso con consecuencias pregunta qué información era visible, qué autoridad existía, qué intervención era posible, cuánto tiempo había, qué deber se activaba, quién podía reparar, qué recurso tenía el afectado y qué traza lo demuestra.

La ruta puede estar repartida entre varias posiciones. No exige un humano que rehaga todo. Sí exige que el sistema contenga órganos capaces de recibir diferencias y actuar antes de que sea demasiado tarde.

La tesis final queda así:

La inteligencia distribuida no elimina la responsabilidad ni obliga a fingir un responsable único. Exige una arquitectura de accountability en la que deber, conocimiento, autoridad, control temporal y reparación estén suficientemente acoplados para cada transición materialmente relevante.

La regla que P06 deja a la serie es:

causalidad ≠ responsabilidad normativa
ejecución ≠ autorización
human-in-the-loop ≠ meaningful control
autoridad formal ≠ poder efectivo
capacidad distribuida ≠ responsabilidad uniforme
responsabilidad distribuida ≠ responsabilidad indeterminada
logging ≠ trazabilidad suficiente
rollback ≠ recourse
accountability nominal ≠ arquitectura capaz de responder

La capacidad puede distribuirse. La autoridad puede repartirse. Pero el deber no debe quedar asignado a una posición incapaz de cumplirlo.

28. Disponibilidad de materiales

La arquitectura científica, el manuscrito v0.1 y la revisión adversarial se conservan como materiales separados. La v0.2 incorpora las correcciones estructurales. El programa experimental se presenta como diseño falsable; no se afirma que haya sido ejecutado confirmatoriamente.

29. Declaración sobre uso de inteligencia artificial

La investigación y redacción forman parte de un sistema de trabajo humano–IA. El autor humano fija el programa, introduce diferencias críticas, determina límites y decisiones editoriales y asume autoría y responsabilidad. Sistemas de IA se han utilizado para búsqueda asistida, comparación bibliográfica, estructuración conceptual, análisis adversarial y redacción iterativa.

30. Bibliografía nuclear

  • Elish, M. C. (2019). Moral Crumple Zones: Cautionary Tales in Human-Robot Interaction. Engaging Science, Technology, and Society, 5, 40–60. https://doi.org/10.17351/ests2019.260
  • Hille, E. M., Hummel, P., & Braun, M. (2026). Meaningful Human Control over AI for Health? A Review. Journal of Medical Ethics, 52(e1), e50–e58. https://doi.org/10.1136/jme-2023-109095
  • Ibitoye, A. O., Nkwo, M. S., & Orji, R. (2025). Rethinking responsible AI from ethical pillars to sociotechnical practice. AI and Ethics, 5, 6207–6223. https://doi.org/10.1007/s43681-025-00809-2
  • Kasirzadeh, A., & Gabriel, I. (2026). Agentic profiles for effective AI governance. Nature, 656, 320–328. https://doi.org/10.1038/s41586-026-10805-z
  • Mahi, E., & Strand, M. (2026). Layered agency as a basis for allocating accountability for AI. AI & Society. https://doi.org/10.1007/s00146-026-03224-1
  • Matthias, A. (2004). The responsibility gap: Ascribing responsibility for the actions of learning automata. Ethics and Information Technology, 6, 175–183. https://doi.org/10.1007/s10676-004-3422-1
  • Passi, S., & Singh, R. (2026). The Oversight Fallacy: Why AI Agents Require More than Humans-in-the-Loop. Data & Society.
  • Raji, I. D., Smart, A., White, R. N., et al. (2020). Closing the AI accountability gap: defining an end-to-end framework for internal algorithmic auditing. FAT 2020.
  • Santoni de Sio, F., & van den Hoven, J. (2018). Meaningful Human Control over Autonomous Systems: A Philosophical Account. Frontiers in Robotics and AI, 5, 15. https://doi.org/10.3389/frobt.2018.00015
  • Veluwenkamp, H. (2022). Reasons for Meaningful Human Control. Ethics and Information Technology, 24, 51.
  • European Union. Regulation (EU) 2024/1689, Artificial Intelligence Act, especially Articles 14, 16 and 26.
  • NIST (2023). Artificial Intelligence Risk Management Framework (AI RMF 1.0).
Sobre esta publicación
Autor
Hipólito