Inteligencia simbiótica · Parte VII · Capítulo 29
La forma jurídica del sistema de IA
La primera pregunta jurídica suele formularse demasiado pronto:
La primera pregunta jurídica suele formularse demasiado pronto:
¿Qué norma regula esta IA?
Antes hay que preguntar:
¿Qué sistema existe aquí, quién ocupa cada posición, para qué se utiliza y qué efecto puede producir?
El mismo modelo general puede redactar una invitación, ayudar a seleccionar candidatos, priorizar pacientes o asistir a un órgano judicial. Su sustrato técnico puede ser común. Su forma jurídica no.
El Derecho regula usos, posiciones y efectos además de componentes.
El modelo no es el sistema regulado completo
Un modelo transforma entradas en salidas. El sistema que opera en una organización puede añadir:
- interfaz;
- instrucciones;
- fuentes recuperadas;
- memoria;
- filtros;
- herramientas;
- automatizaciones;
- reglas de negocio;
- supervisión;
- y conexión con destinatarios o entornos físicos.
La calificación no puede detenerse en la capa que lleva la marca comercial.
Un modelo de propósito general puede integrar un sistema de riesgo limitado o un uso de alto riesgo. Una herramienta presentada como apoyo puede adquirir capacidad material para determinar acceso, prioridad o resultado. Una modificación local puede convertir a quien despliega en algo más que usuario pasivo.
La unidad jurídica debe seguir la configuración efectiva.
Posiciones, no personajes
El Reglamento europeo de Inteligencia Artificial organiza obligaciones mediante posiciones como proveedor, responsable del despliegue, importador, distribuidor, representante autorizado y fabricante de producto. Las categorías no describen personalidades. Distribuyen deberes según control, puesta en el mercado, integración y uso.[^18]
En una cadena concreta pueden intervenir:
- quien desarrolla el modelo;
- quien ofrece acceso;
- quien configura el sistema;
- quien integra herramientas y datos;
- quien determina finalidades y medios del tratamiento;
- quien lo despliega en su actividad;
- quien revisa;
- quien autoriza el acto;
- y quien recibe o sufre el efecto.
Una misma entidad puede ocupar varias posiciones. Una posición puede dividirse contractualmente sin que desaparezca la responsabilidad que la ley anuda al control efectivo.
El nombre del contrato no gobierna la realidad.
Función prevista y uso razonablemente previsible
Los sistemas se describen mediante una finalidad prevista. Esa delimitación influye en documentación, pruebas, información y clasificación.
Pero una política escrita no neutraliza el uso que la propia arquitectura facilita.
Si una herramienta se anuncia como mera ayuda y su interfaz inserta automáticamente la recomendación en el flujo de decisión, la organización debe analizar el efecto real. Si una función prohibida se bloquea solo mediante una advertencia ignorada sistemáticamente, el límite no está implementado.
La finalidad jurídica necesita correspondencia con:
- diseño;
- usuarios habilitados;
- datos accesibles;
- acciones disponibles;
- incentivos;
- supervisión;
- y uso observado.
El uso fuera de alcance no siempre es culpa individual. Puede ser información sobre una frontera mal construida.
Clasificar por efecto
El marco europeo adopta una lógica basada en riesgo: prácticas prohibidas, sistemas de alto riesgo en determinados ámbitos, obligaciones de transparencia y reglas específicas para modelos de propósito general, además del Derecho general aplicable.[^18]
La etiqueta «IA generativa» no decide la categoría.
La organización debe reconstruir:
- qué función realiza;
- sobre quién o qué actúa;
- qué decisión condiciona;
- qué grado de autonomía tiene;
- qué daño puede producir;
- qué anexos o sectores resultan aplicables;
- qué exclusión se invoca;
- y qué cambio obligaría a reclasificar.
En la administración de justicia, por ejemplo, ciertos sistemas destinados a asistir a autoridades judiciales en investigación e interpretación de hechos y Derecho y en aplicación del Derecho a hechos concretos figuran entre los usos de alto riesgo, con la delimitación exacta del texto vigente. Eso no convierte toda búsqueda jurídica privada en alto riesgo. Obliga a no trasladar una categoría entre contextos por semejanza verbal.
El inventario como mapa vivo
No puede gobernarse lo que la organización no sabe que utiliza.
Un inventario útil no es una lista de licencias. Para cada sistema o caso de uso registra:
- propietario funcional;
- proveedores y componentes;
- finalidad;
- usuarios;
- personas afectadas;
- entradas y datos;
- salidas;
- decisiones o acciones conectadas;
- autonomía;
- clasificación y fundamento;
- controles;
- métricas;
- incidentes;
- cambios;
- y condición de retirada.
La unidad puede ser el caso de uso, no el producto. El mismo producto merece entradas separadas si opera con finalidades, datos o efectos distintos.
El inventario se vuelve obsoleto si depende de una campaña anual. Debe conectarse a compra, alta de proveedores, seguridad, desarrollo, gestión de cambios y operación.
Lo que la exclusión no excluye
Que un uso quede fuera de una obligación específica del Reglamento de IA no significa que quede fuera del Derecho.
Pueden seguir aplicándose:
- protección de datos;
- secreto y confidencialidad;
- consumo;
- no discriminación;
- propiedad intelectual;
- competencia;
- seguridad de productos;
- regulación sectorial;
- obligaciones contractuales;
- responsabilidad civil;
- y deberes profesionales.
La clasificación regulatoria es una capa.
No es certificado general de legitimidad.
El tiempo regulatorio
Las normas sobre IA entran en aplicación por fases y pueden ser modificadas antes de que una organización complete su implantación. En julio de 2026, la Unión Europea aprobó una modificación que, entre otras medidas, amplió determinados calendarios de los sistemas de alto riesgo y ajustó obligaciones y procedimientos.[^19]
La conclusión metodológica es más importante que la fecha:
La vigencia debe ser una dependencia del sistema, no una nota al pie olvidada en el proyecto.
Cada requisito debería vincularse a:
- fuente oficial;
- versión;
- fecha de aplicación;
- posición obligada;
- caso de uso afectado;
- evidencia;
- y responsable de revisión.
Un calendario regulatorio no debe copiarse desde una presentación y quedar congelado.
El sistema como relación jurídica
La forma jurídica del sistema no reside en una sola categoría.
Es una relación entre:
- capacidad técnica;
- finalidad organizativa;
- posición de los actores;
- materiales utilizados;
- decisiones posibles;
- personas afectadas;
- y formas de reparación.
El Derecho no necesita resolver primero si la IA es sujeto.
Puede atribuir deberes a quienes diseñan, ofrecen, integran, despliegan, supervisan y actúan. Puede reconocer derechos de quienes reciben el efecto. Puede exigir información, prueba, control, retirada y remedio.
La ausencia de un sujeto artificial no deja un vacío.
Hace más necesario representar la cadena humana e institucional completa.
El expediente de calificación
La clasificación jurídica debe conservar su razonamiento. Un expediente mínimo puede contener:
- descripción funcional: qué hace el sistema en operación, no solo cómo lo presenta el proveedor;
- mapa de componentes: modelos, interfaces, fuentes, herramientas, reglas y personas;
- finalidad y población: para qué se usa y quién recibe sus efectos;
- outputs y decisiones: qué produce y qué acto condiciona;
- posiciones: proveedor, integrador, responsable del despliegue, responsables de tratamiento, profesionales y terceros;
- clasificación: normas, categorías, exclusiones y fundamento;
- obligaciones: por posición y fecha;
- evidencia: documentación, pruebas, contratos, registros y formación;
- límites: hechos no confirmados y cuestiones abiertas;
- reapertura: cambios que obligan a revisar.
La conclusión puede ser provisional. Debe saber por qué.
Cambio sustancial y deriva funcional
Un sistema puede abandonar su calificación inicial sin que nadie apruebe formalmente una nueva finalidad.
Ocurre cuando:
- usuarios amplían tareas;
- la recomendación se convierte en decisión por práctica;
- se conectan nuevas fuentes;
- aumenta autonomía;
- cambia la población;
- una excepción se normaliza;
- o la supervisión pierde efectividad por volumen.
La deriva funcional es jurídica además de técnica. El inventario debería comparar uso previsto y uso observado, y activar revisión ante diferencias materiales.
Una prohibición escrita que la organización sabe incumplida no conserva la frontera. La tolerancia puede revelar otra forma efectiva.
Varias normas, una sola operación
El equipo no debería recibir listas paralelas de requisitos de IA, privacidad, seguridad, consumo y sector. La misma operación puede satisfacer varios deberes mediante una evidencia común: mapa de datos, prueba de supervisión, log de cambio, evaluación de impacto o procedimiento de incidente.
Integrar no significa declarar equivalentes las normas.
Significa diseñar un control desde la función y registrar qué obligación satisface, con qué alcance. Así se evita duplicar formularios y perder diferencias jurídicas.
El gobierno coherente no añade capas regulatorias.
Construye una arquitectura donde cada capa puede reconocer su propio fundamento.