Paper · Serie Más allá del agente · P07
El freno delegado
Un protocolo documental para distinguir cuándo las advertencias empresariales de riesgo acompañan una demanda de restricciones vinculantes aplicables también al propio emisor.
Advertencias de riesgo, competencia y demanda de restricciones vinculantes en la frontera de la inteligencia artificial
Autor: Agustín Hipólito Tomás
Edición pública: 1.0 · 10 de septiembre de 2026
Base científica: manuscrito v0.2
Serie: Más allá del agente · P07
Estatuto: paper conceptual-documental · protocolo longitudinal propuesto · resultados exploratorios de desarrollo
Corte bibliográfico y documental: 10 de septiembre de 2026
Resumen
Las empresas que desarrollan inteligencia artificial de frontera ocupan simultáneamente cuatro posiciones: producen capacidad técnica, concentran información privilegiada sobre sus riesgos, compiten por liderazgo y participan activamente en el diseño de las reglas que podrían restringirlas. Esta combinación produce una aparente contradicción: algunos laboratorios advierten de riesgos graves y, al mismo tiempo, continúan entrenando, desplegando y compitiendo.
Una interpretación reciente describe parte de esta conducta como doom trolling: comunicar escenarios extremos mientras se sigue desarrollando la tecnología presentada como peligrosa. Esa crítica identifica una posibilidad real —señalización de capacidad, agenda regulatoria o marketing del riesgo—, pero no agota la estructura. La revisión documental encuentra casos en los que la advertencia coexiste con demandas explícitas de restricciones aplicables también al propio emisor. La Responsible Scaling Policy de Anthropic describe directamente un collective action problem, separa compromisos propios de recomendaciones industry-wide que no considera sostenibles unilateralmente y contiene compromisos condicionados a la posición de competidores. En agosto de 2026 Anthropic distinguió además entre pacing dentro de una empresa y pacing del campo, para el que reclama un mecanismo legal, verificable y efectivo. OpenAI pidió el 9 de septiembre de 2026 regulación nacional obligatoria basada en capacidades y evaluación independiente. Google DeepMind ha descrito igualmente la seguridad de frontera como un problema de acción colectiva.
P07 propone estudiar esta configuración bajo la hipótesis de freno delegado. El término no significa que una empresa «quiera ser detenida» ni atribuye una intención psicológica. Designa una función institucional observable: una comunicación de riesgo puede formar parte de una demanda de autoridad externa capaz de transformar una preferencia condicional de seguridad —«acepto restringirme si los demás quedan sujetos a una regla equivalente»— en un compromiso común, verificable y exigible.
La literatura económica impide reclamar novedad sobre el mecanismo: la competencia puede desplazar recursos de seguridad hacia velocidad; las ventajas del primero pueden inducir despliegue prematuro; y regulación bien situada puede actuar como commitment device. La teoría de regulación obliga además a mantener abierta la hipótesis rival de regulatory capture: una empresa puede apoyar reglas que eleven costes de entrada o consoliden una ventaja. El Derecho de competencia introduce un segundo déficit: una coordinación privada suficientemente fuerte entre rivales para detener desarrollo o lanzamiento puede plantear incertidumbre antitrust dependiendo de su diseño. El regulador puede ser demandado, por tanto, no solo como coacción sino como productor de una forma pública y legítima de coordinación.
La contribución candidata de P07 es un protocolo documental y longitudinal. Para cada episodio propone codificar voz, conexión entre advertencia y demanda, riesgo, limitación unilateral, objeto material del freno, autolimitación, coste declarado y observado, obligación solicitada, simetría por riesgo, verificación, enforcement, robustez posicional, efectos competitivos y forma jurídica. Los grados FD0–FD4 resumen la fuerza de la evidencia desde una advertencia aislada hasta una restricción vinculante con robustez posicional observada. No son una escala de virtud, sinceridad ni conciencia de riesgo.
La tesis final es estrecha: una advertencia empresarial de riesgo puede ser compatible con la continuidad competitiva sin ser necesariamente incoherente cuando el actor intenta construir una regla vinculante que también limita su propia conducta. La interpretación de «freno delegado» gana fuerza con autovinculación, simetría proporcional, verificación, enforcement, coste observable y robustez frente al liderazgo; y pierde fuerza cuando el diseño preserva la discrecionalidad del incumbente o desplaza desproporcionadamente el coste hacia rivales.
Abstract
Frontier AI companies simultaneously occupy four positions: they produce technical capability, possess privileged information about emerging risks, compete for leadership, and participate in shaping the rules that may constrain them. This creates an apparent contradiction: some laboratories warn about severe risks while continuing to train, deploy, and compete.
One recent interpretation describes part of this behavior as doom trolling. That criticism captures a genuine possibility —capability signaling, agenda setting, or risk marketing— but does not exhaust the structure. Our documentary review identifies episodes in which warnings coexist with demands for restrictions that also bind the speaker. Anthropic’s Responsible Scaling Policy directly describes a collective action problem; OpenAI now calls for mandatory capability-based national safeguards and independent assessment; Google DeepMind has likewise described frontier security as a collective-action problem.
P07 studies this configuration under the working hypothesis of a delegated brake. The term does not attribute sincerity or psychological motive. It denotes an observable institutional function: risk communication may form part of a demand for external authority capable of converting a conditional safety preference into a common, verifiable, enforceable commitment.
The contribution is not a new theory of collective action or regulation. It is a documentary and longitudinal attribution protocol designed to distinguish warning, institutional ask, self-binding proposal, enforceable collective commitment, and observed positional robustness while testing signaling and regulatory-capture rivals.
1. La pregunta correcta no es psicológica
El disparador de esta investigación fue una pregunta sencilla:
Si algunas empresas dicen que el riesgo es grave, ¿puede ser que estén avisando precisamente para que alguien con autoridad —un regulador— haga algo que ellas no pueden hacer por sí solas?
La pregunta transforma una aparente contradicción moral en un problema institucional. Pero no puede convertirse directamente en conclusión. No tenemos acceso a una voluntad corporativa unitaria: una organización contiene directivos, investigadores, inversores, abogados, equipos de policy y estrategias que pueden divergir.
Por eso P07 no pregunta qué quieren «realmente» las empresas. Pregunta qué función institucional está respaldada por su conducta documental observable.
Separamos tres niveles:
- contenido: qué riesgo se declara;
- conducta institucional: qué restricción propia se acepta y qué regla se solicita;
- función observable: qué capacidad de coordinación o autoridad puede producir esa demanda.
La intención psicológica queda fuera del endpoint principal.
2. La señal de septiembre de 2026
El 9 de septiembre de 2026 La Vanguardia recogió la salida de Jacob Coxon, ex investigador de OpenAI y Anthropic. Coxon formuló un diagnóstico muy severo sobre sistemas capaces de acelerar la propia investigación en IA y presentó a Anthropic como un actor que comprendería las apuestas pero estaría atrapado en una carrera porque otros laboratorios podrían seguir avanzando.
La noticia no demuestra la posición corporativa de Anthropic.
ex empleado ≠ posición corporativa
Su valor es heurístico: formula una hipótesis contrastable. Si la empresa describe realmente el problema como una carrera de acción colectiva, deberíamos encontrar en sus propios documentos reconocimiento de la insuficiencia unilateral, alguna autolimitación, demandas de coordinación, mecanismos verificables y reglas que también puedan restringir al emisor.
La revisión primaria encuentra precisamente esas piezas.
3. Doom trolling: rival, no explicación total
LAB-06 había construido antes de P07 el dossier Doom trolling · Un nombre nuevo para un problema anterior. Su contribución principal fue negarse a clasificar una advertencia por el lenguaje solo. Propuso observar advertencia, intensidad del escenario, incertidumbre, lenguaje de capacidad, conducta posterior, mitigación, coste asumido, aceleración o pausa, posición competitiva e inevitabilidad.
Ese trabajo documentó antecedentes de la sospecha de que el discurso de riesgo puede señalar potencia, atraer atención, desplazar la agenda, favorecer determinados marcos regulatorios o producir una narrativa de inevitabilidad.
P07 no intenta refutar ese fenómeno. Lo descomprime. Un mismo warning puede tener varias funciones simultáneas. La hipótesis del freno delegado solo merece peso adicional cuando existe evidencia que va más allá del warning.
4. Cuatro inevitabilidades
La frase «no podemos parar porque otro seguirá» mezcla al menos cuatro proposiciones.
Inevitabilidad tecnológica: la capacidad aparecerá necesariamente.
Inevitabilidad competitiva: algún actor probablemente continuará si uno se detiene.
Insuficiencia unilateral: la acción de una sola empresa no reduce suficientemente el riesgo del sistema.
Inevitabilidad narrativa: el futuro se comunica como dirección cerrada.
P07 se concentra en las dos intermedias. Una presión competitiva no demuestra inevitabilidad tecnológica; y afirmar que una pausa unilateral es insuficiente tampoco demuestra que una pausa colectiva sea deseable.
5. Anthropic: un caso con conexión documental fuerte
La página pública de la Responsible Scaling Policy de Anthropic identifica como versión vigente la v3.4, efectiva desde el 8 de julio de 2026. El núcleo conceptual de v3 fue introducido en febrero y formula explícitamente la cuestión como un collective action problem.
El razonamiento corporativo es directo: el riesgo agregado depende de varios desarrolladores; un desarrollador puede introducir mitigaciones, pero si otros continúan con salvaguardas más débiles, los menos cautelosos pueden marcar el ritmo; el actor prudente puede perder capacidad de investigación y de influencia. Por ello Anthropic distingue planes propios de recomendaciones más ambiciosas para toda la industria y declara que no puede comprometerse unilateral e incondicionalmente a seguir todas esas recomendaciones industry-wide.
Aquí no tenemos que inferir una relación entre advertencia y regulación. La propia política la construye.
6. Competitor-contingent commitments
La RSP añade una diferencia más fuerte: incorpora compromisos relacionados con la conducta o posición de competidores.
Una condición especialmente informativa es el escenario Anthropic in the lead. Si Anthropic ha desarrollado o está a punto de desarrollar un modelo altamente capaz y dispone de evidencia clara de que otros no lo harán pronto, la política prevé exigir un argumento fuerte de que el riesgo catastrófico está contenido y retrasar desarrollo o despliegue cuando sea necesario.
Este dato contradice una versión demasiado fácil de la hipótesis de captura —«solo quieren frenar cuando van por detrás»—, pero no prueba robustez posicional observada.
compromiso posicional ex ante ≠ conducta observada bajo liderazgo real
P07 convierte esa diferencia en una predicción longitudinal.
7. Dos escalas de pacing
El 31 de agosto de 2026 Anthropic distinguió expresamente entre pacing dentro de una compañía y pacing a escala del campo. Para el segundo sostiene que se necesita coordinación entre gobierno e industria y que el mecanismo debe ser legal, verificable y efectivo.
La empresa documenta además acciones propias: congelaciones temporales, reasignación de personal y pausas de determinadas evaluaciones o entornos de mayor riesgo. Eso no demuestra un sacrificio competitivo total, pero sí bloquea una lectura demasiado simple:
warning ≠ ausencia absoluta de autolimitación
autolimitación local ≠ pacing de la frontera
8. Coste declarado y coste observado
Para evitar convertir cualquier medida interna en evidencia de virtud, P07 separa:
COST_d = coste declarado
COST_o = coste observado
COST_o puede incluir retraso de lanzamiento, compute no utilizado o reasignado, feature suspendida, acceso restringido, recursos desplazados a seguridad o ventaja material sacrificada.
Una empresa que afirma haber asumido un coste solo genera COST_d. La inferencia se fortalece cuando la diferencia es verificable.
9. SB 53: de práctica voluntaria a norma
California ofrece un caso especialmente útil. Anthropic apoyó SB 53, que introdujo obligaciones para grandes desarrolladores de frontera sobre frameworks de seguridad, reporting de incidentes críticos, protección de whistleblowers y accountability.
En su explicación de cumplimiento, Anthropic sostuvo que formalizar prácticas voluntarias en ley reduce la posibilidad de que sean abandonadas silenciosamente cuando aumenten las capacidades o se intensifique la competencia.
Ese episodio es fuerte porque la regla existe fuera de la empresa, alcanza al proponente, contiene obligaciones verificables y dispone de enforcement público. Es más que una llamada genérica a «regular responsablemente»: es una forma de self-binding ask.
Pero el mismo dato activa un rival. Una práctica que el incumbente ya domina puede convertirse en barrera para otros. Cada evidencia de compromiso debe pasar también por un test de captura.
10. OpenAI: de la voluntariedad a safety bars obligatorias
OpenAI aporta una segunda familia de evidencia. El 6 de septiembre de 2026 Jakub Pachocki defendió que el escalado debe quedar condicionado por confianza en seguridad y que marcos voluntarios deberían evolucionar hacia safety bars ampliamente obligatorias, verificadas por auditores, agencias públicas u organismos internacionales.
El 9 de septiembre OpenAI publicó una posición corporativa todavía más explícita: regulación nacional obligatoria basada en capacidades, evaluación independiente, reporting de incidentes, ciberseguridad y estándares compatibles internacionalmente. La formulación institucional es que el desarrollo de IA acelerado por IA exige más que compromisos voluntarios.
P07 no lee estos documentos como prueba de motivo. Los codifica como demanda de capacidad regulatoria.
11. El objeto del freno
«Parar» es demasiado impreciso. Una política puede limitar cosas distintas:
Q_train — entrenamiento
Q_scale — aumento de escala o capacidad
Q_deploy — despliegue
Q_release — publicación o weights
Q_access — acceso y permisos
Q_use — usos concretos
Q_security — salvaguardas
Q_reporting — transparencia, evaluación y reporting
Dos empresas pueden pedir «regulación fuerte» y estar hablando de objetos materialmente diferentes.
12. Frenar una línea no es frenar el sistema
OpenAI publicó en septiembre de 2026 un caso interno de sustitución. Tras introducir restricciones de seguridad sobre una clase de modelos Astra, la asignación de GPU a esa clase cayó con fuerza mientras parte sustancial de los recursos se desplazó hacia otros modelos. La caída agregada de los workloads analizados fue mucho menor.
La lección metodológica es general:
pausa de un modelo ≠ slowdown de la empresa
slowdown de una empresa ≠ pacing de la frontera
P07 exige declarar siempre la escala.
13. DeepMind y Meta: heterogeneidad
Google DeepMind ha descrito explícitamente la seguridad de frontier AI como un collective-action problem. Su Frontier Safety Framework sostiene que el valor social de las mitigaciones de un actor se reduce si no se aplican ampliamente y reclama que los desarrolladores trabajen hacia medidas y estándares comunes. Ya en 2023 defendía compromisos colectivos, evaluaciones independientes estandarizadas y gobernanza internacional interoperable.
Meta ofrece un control necesario. Mantiene un Advanced AI Scaling Framework con evaluación de riesgos graves, pero su posición pública ha enfatizado también open source, innovación y competencia. Un framework de seguridad propio no implica necesariamente apoyo a un regulador sectorial fuerte o a pacing colectivo.
La conclusión metodológica es básica:
la industria ≠ actor unitario
14. Pacing the Frontier: señal transversal, no compromiso corporativo
En julio de 2026 más de 1.300 personas vinculadas a laboratorios de frontera firmaron Pacing the Frontier. El texto describe presión competitiva contra la ralentización unilateral y pide un esfuerzo internacional con participación gubernamental para crear herramientas de pacing.
Es una señal importante de que el problema de coordinación se reconoce transversalmente dentro de laboratorios rivales. Pero una firma personal no es una posición corporativa.
P07 introduce por eso una variable de voz:
VOICE ∈ {CORP, EXEC, EMP, EX, COAL, GOV, MEDIA}
No se permite transferir automáticamente un claim entre esas unidades.
15. LINK: advertencia y demanda no siempre forman una sola acción
Que una empresa advierta de riesgo y meses después apoye una ley no prueba que la segunda acción sea consecuencia de la primera. Por eso introducimos:
LINK0 — sin conexión documental
LINK1 — proximidad temporal u organizativa
LINK2 — la propuesta cita explícitamente el riesgo
LINK3 — la propia fuente explica que la regla responde a unilateralidad, competencia o coordinación
Los casos LINK2–3 tienen mayor fuerza para la hipótesis institucional.
16. Lo que ya explica la economía
El mecanismo estratégico no es nuevo. Bueno de Mesquita, Dziuda y Polborn modelan empresas que asignan recursos entre velocidad y seguridad; la fragmentación puede aumentar velocidad y riesgo condicional. Choi, Jeon y Menicucci muestran que ventajas del primero pueden inducir despliegue prematuro. Laufer, Kleinberg y Heidari muestran que regulación débil y mal situada puede incluso reducir seguridad, mientras reglas más fuertes y correctamente dirigidas pueden funcionar como commitment device.
Por tanto:
regulation as commitment device no es la novedad de P07.
La aportación candidata es un protocolo para identificar cuándo la conducta documental de un actor es compatible con esa función.
17. Posición competitiva y conducta de seguridad
Fernández Domingos y Han estudiaron en 2026 una carrera idealizada de IA. Sus hipótesis preregistradas sobre nivel máximo de riesgo y preferencias individuales no recibieron el apoyo esperado. En análisis exploratorios, actuar inseguramente fue más probable después de que el rival lo hiciera; estar por delante redujo conducta insegura y quedarse atrás la aumentó.
El resultado no demuestra decisiones corporativas reales. Sí bloquea una inferencia moral simplista:
conducta insegura → ausencia de preocupación por el riesgo
La posición estratégica puede modificar conducta incluso manteniendo preferencias subyacentes.
18. Regulatory capture: rival obligatorio
La teoría económica de la regulación impide idealizar la demanda empresarial de normas. Desde Stigler hasta la literatura de regulatory capture y raising rivals’ costs, existe un mecanismo conocido por el cual los grupos regulados pueden intentar utilizar la regla pública para proteger rentas, elevar costes de entrada o consolidar una ventaja.
Por eso:
empresa pide regulación ≠ evidencia de bien público
empresa acepta regulación ≠ ausencia de interés estratégico
Una misma regla puede mejorar seguridad y elevar barreras.
19. Commitment Test
Para que un episodio apoye la hipótesis de freno delegado debe mostrar, progresivamente:
Binding ask. La regla solicitada puede obligar también al emisor.
Simetría proporcional. Riesgo materialmente equivalente recibe criterio equivalente, salvo justificación explícita.
Verificación. Existe tercero, auditor, test o reporting que reduce dependencia de la palabra del actor.
Enforcement. Existe consecuencia por incumplimiento.
Autolimitación. El actor ya acepta alguna restricción propia.
Coste observable. Hay evidencia material cuando sea posible.
Robustez posicional. La regla no desaparece simplemente con liderazgo.
El test no demuestra pureza de motivos. Demuestra que la arquitectura solicitada tiene propiedades de compromiso.
20. Capture/Competition Test
Toda observación compatible con compromiso debe pasar una segunda prueba:
- ¿la obligación se activa por capacidad/riesgo o por identidad del actor?;
- ¿incluye realmente al proponente?;
- ¿qué coste fijo impone a nuevos actores?;
- ¿cómo trata modelos abiertos y por qué?;
- ¿el verificador es independiente?;
- ¿puede sancionar al incumbente?;
- ¿las exenciones son proporcionales?;
- ¿una regla nacional sustituye otra más fuerte por una más débil?;
- ¿la postura cambia cuando el actor gana ventaja?
La hipótesis de captura gana peso cuando el diseño competitivo explica mejor la regla que la vía causal del riesgo.
21. El hallazgo inesperado: la coordinación privada también puede necesitar autoridad
La pregunta inicial podría resolverse con una respuesta aparentemente sencilla: si todos creen que hay riesgo, que pacten entre ellos una pausa.
Pero los laboratorios son competidores. En Estados Unidos, FTC y DOJ recuerdan que muchas colaboraciones entre competidores pueden ser legítimas o procompetitivas, mientras otras pueden restringir competencia. Las antiguas guidelines generales sobre colaboraciones fueron retiradas en 2024 y en 2026 ambas agencias abrieron un proceso para desarrollar orientación actualizada.
Un análisis jurídico especializado de Lawfare examina si una pausa coordinada entre laboratorios podría, según su diseño, ser tratada como una restricción horizontal de desarrollo o output bajo Section 1 del Sherman Act.
Esto no permite afirmar que los laboratorios tengan prohibido colaborar en seguridad. La conclusión es más estrecha:
una coordinación privada fuerte puede plantear incertidumbre o exposición antitrust dependiendo de jurisdicción y diseño; no es institucionalmente equivalente a una regla pública.
22. El doble déficit
El posible freno contiene entonces dos déficits separados.
Déficit de compromiso. Cada firma teme que los demás continúen. La autolimitación unilateral puede ser inestable.
Déficit de autoridad. Los competidores no son necesariamente el órgano adecuado para imponerse entre sí una restricción horizontal fuerte.
El regulador puede aportar fuente normativa, criterio general, trigger, verificación, enforcement y procedimiento.
Aquí «freno delegado» alcanza su formulación más precisa. Lo que se demanda no es una voluntad psicológica de parar. Se demanda autoridad para producir una regla común.
23. De P06 a P07
P06 había preguntado dónde se acoplan información, autoridad, intervención y reparación. P07 escala ese análisis al campo competitivo.
Un laboratorio puede poseer capacidad técnica, información privilegiada y control parcial sobre su propia actividad, pero carecer de autoridad sobre competidores, capacidad para verificar su conducta, poder para sancionarlos o legitimidad para imponer una regla sectorial.
La forma candidata es:
conocimiento privado + control propio − autoridad de campo → advertencia/policy advocacy → autoridad pública → regla común
Esto es una hipótesis institucional. No una excusa para la empresa.
24. Protocolo documental
Para cada episodio e proponemos:
F(e) = <VOICE, LINK, R, U, Q, A, COSTd, COSTo, B, S, V, E, Ppre, Pobs, M, L>
Donde:
VOICE— quién habla;LINK— conexión warning/policy;R— riesgo declarado;U— límite unilateral;Q— objeto material del freno;A— autolimitación;COSTd— coste declarado;COSTo— coste observado;B— binding ask;S— simetría por riesgo;V— verificación;E— enforcement;Ppre— compromiso posicional ex ante;Pobs— robustez posicional observada;M— efecto competitivo/capture;L— forma o restricción jurídica de coordinación.
La intención psicológica no forma parte del vector ordinario.
25. FD0–FD4
FD es un grado de evidencia compuesto, no una escalera moral.
FD0 · Warning. Advertencia.
FD1 · Institutional ask. Warning + demanda identificable de intervención externa.
FD2 · Self-binding proposal. La regla propuesta restringe también al emisor.
FD3 · Enforceable collective commitment. Añade evidencia suficiente de simetría por riesgo, verificación, enforcement y restricción o coste propio.
FD4 · Positional robustness observada. El principio se mantiene después de un cambio real y relevante de posición competitiva.
Un compromiso ex ante puede apoyar la predicción. No sustituye la observación longitudinal.
26. Clasificar episodios, no empresas
P07 no debe escribir «Anthropic es FD3» u «OpenAI es FD2». La unidad es:
VOICE × empresa × episodio × fecha × Q
Una misma firma puede presentar un episodio muy compatible con compromiso colectivo y otro compatible con señalización o captura.
Las clasificaciones incluidas en esta fase son development-set classifications. No constituyen validación independiente.
27. El test de inversión posicional
La prueba longitudinal más discriminante es observar qué ocurre cuando cambia quién va por delante.
Supongamos:
t0: firma A va detrás
t1: firma A pasa a liderar
Si antes defendía una regla que limita al líder, la hipótesis de compromiso predice mantenimiento sustancial del principio. La hipótesis de captura hace más probable un cambio oportunista de thresholds, exenciones, objeto o calendario.
No es una prueba perfecta: una empresa puede cambiar por nueva evidencia. Pero crea un contrafáctico institucional mejor que la lectura de retórica.
28. El Estado tampoco es neutral
El paper no contiene una secuencia «mercado falla → Estado resuelve». El regulador puede ser capturado, actuar tarde, carecer de expertise, fijar thresholds erróneos, crear barreras o ser arbitrado entre jurisdicciones.
P07 no defiende regulación por defecto. Defiende tratar la demanda de regulación como un dato institucional que debe analizarse.
Una propuesta solo refuerza la hipótesis de freno delegado si supera a la vez un test de compromiso y un test de competencia/captura.
29. Un contraste institucional estadounidense
La Executive Order 14409, de 2 de junio de 2026, ordenó desarrollar un framework voluntario de colaboración con desarrolladores para determinados modelos de frontera y especificó que esa sección no autorizaba crear un requisito gubernamental obligatorio de licensing, preclearance o permiso para desarrollar, publicar, lanzar o distribuir nuevos modelos.
Tres meses después, OpenAI está pidiendo regulación nacional obligatoria basada en capacidades.
La diferencia observable es:
capacidad regulatoria vigente revisada ≠ capacidad regulatoria solicitada
Esto no demuestra que OpenAI quiera «ser frenada». Sí demuestra que su advocacy busca una forma más vinculante que la voluntariedad descrita en ese marco.
30. Morfogénesis: la advertencia puede modificar el campo
LAB-06 pregunta si describimos la IA que aparece o participamos en producirla. P07 ofrece una cadena concreta:
riesgo técnico → comunicación → saliencia/common knowledge → demanda de autoridad → institución → modificación de incentivos → nueva conducta técnica
La comunicación no solo representa el riesgo. Puede contribuir a producir la forma institucional que modifica el desarrollo posterior.
Esa es la conexión morfogenética del paper.
31. Implicaciones regulatorias
Una autoridad que recibe estas advertencias no debería aceptar automáticamente la arquitectura propuesta por una empresa. Debe convertir conocimiento privado en evidencia contestable mediante definición pública del riesgo, trigger proporcional, evaluación independiente, análisis de competencia, enforcement, revisión y transparencia compatible con seguridad.
Si el regulador solo transcribe el framework del incumbente, el freno delegado puede convertirse en captura delegada.
32. Limitaciones
El corpus está dominado por documentación producida por los propios actores. La posición competitiva es multidimensional. Los costes propios son difíciles de medir. FD0–FD4 no ha sido validado independientemente. Google DeepMind y Meta requieren expedientes longitudinales más completos. El análisis antitrust depende de jurisdicción y diseño. Una empresa puede cambiar de postura por nueva evidencia, no por oportunismo. La simetría regulatoria exige proporcionalidad, no igualdad literal. Un commitment device puede producir efectos anticompetitivos. Riesgo declarado no equivale a riesgo probado. Warning, advocacy y policy pueden proceder de equipos distintos. El paper no demuestra intención y la ausencia de FD3 no demuestra mala fe.
33. Condiciones de rechazo
«Freno delegado» debe degradarse a metáfora editorial si no puede distinguirse de «apoyo a regulación»; si LINK, B, S, V, E y P no pueden codificarse con fiabilidad; si el test posicional no produce observaciones; si casi todos los casos dependen de inferir intención; si el capture test no cambia ninguna clasificación; si literatura previa contiene un instrumento empírico equivalente; o si la complejidad del vector no añade predicción.
La serie no necesita un concepto nuevo por cada fenómeno.
34. Conclusión
La pregunta inicial parecía una acusación o una defensa:
Si creen que la IA puede ser peligrosa, ¿por qué siguen?
La investigación muestra una tercera vía.
Una empresa puede reconocer riesgo, autolimitar algunas actividades, considerar insuficiente la restricción unilateral, temer desviación de rivales, carecer de autoridad sobre ellos y pedir una regla pública que también reduzca su propia libertad.
Ese patrón no es puramente hipotético. Anthropic aproxima la estructura de forma explícita cuando denomina collective action problem a su situación, separa lo que puede comprometer unilateralmente de lo que requiere adopción sectorial, introduce compromisos relacionados con competidores y pide mecanismos de pacing legales y verificables. OpenAI pide requisitos nacionales obligatorios basados en capacidades y evaluación independiente. Google DeepMind formula también la seguridad de frontera como acción colectiva.
Pero la teoría económica ya sabía que la regulación puede funcionar como commitment device. Y la teoría de captura ya sabía que las empresas pueden pedir reglas que les beneficien.
Por eso P07 no responde: «sí, las empresas nos están pidiendo que las salvemos de sí mismas».
Responde con una pregunta más exigente:
¿qué tendría que observarse para distinguir una demanda de compromiso colectivo de una advertencia estratégica?
La respuesta propuesta es:
warning + conexión explícita con unilateralidad + objeto del freno + autolimitación + coste observable + regla aplicable al emisor + simetría por riesgo + verificación + enforcement + robustez posicional + stress test de captura
Y el hallazgo institucional adicional es que el problema puede contener dos déficits:
déficit de compromiso + déficit de autoridad/coordinación jurídica
Una empresa puede no ser capaz de imponer el freno a sus rivales. Y un pacto privado suficientemente fuerte entre rivales puede no ser institucionalmente equivalente a una regla pública.
El regulador aparece entonces no solo como quien «dice no», sino como quien puede construir una forma común de autovinculación. Esa forma puede mejorar seguridad. También puede convertirse en moat. Por eso debe ser verificable, proporcional, revisable y sometida a competencia.
La tesis final de P07 queda así:
En la IA de frontera, algunas advertencias empresariales de riesgo son compatibles con una función de demanda de autoridad: buscan o apoyan restricciones que también pueden obligar al propio emisor porque la autolimitación unilateral no produce por sí sola un equilibrio estable. Esa interpretación no se presume; se gana documentalmente mediante self-binding, simetría proporcional, verificación, enforcement, coste y robustez posicional, y permanece siempre abierta al rival de captura regulatoria.
No sabemos todavía si las empresas «quieren que alguien las pare».
Sí sabemos qué evidencia necesitaríamos para decir algo científicamente mejor.
Disponibilidad y estatuto
Las clasificaciones FD utilizadas en los materiales preparatorios pertenecen al development set. El protocolo no se presenta todavía como escala validada. Su validación requerirá codebook congelado, corpus adicional y codificación independiente. Este paper presenta la hipótesis, la evidencia documental inicial, los rivales y las condiciones de falsación.
Declaración sobre uso de inteligencia artificial
La investigación y redacción forman parte de un sistema de trabajo humano–IA. El autor humano fija el programa, introduce diferencias críticas, determina el estatuto de las afirmaciones y asume autoría y responsabilidad. Sistemas de IA se han utilizado para búsqueda asistida, comparación bibliográfica, estructuración, revisión adversarial y redacción iterativa.
Bibliografía nuclear
- Anthropic. (2025). Anthropic is endorsing SB 53.
- Anthropic. (2025). Sharing our compliance framework for California’s Transparency in Frontier AI Act.
- Anthropic. (2026). Responsible Scaling Policy, v3.x; versión pública vigente v3.4, efectiva desde 8 Jul 2026.
- Anthropic. (2026). Improving our alignment and security efforts. 31 Aug 2026.
- Bracero, F. (2026). Un ingeniero de Anthropic dimite porque «la IA podría matarnos a todos al final de esta década». La Vanguardia, 9 Sep 2026.
- Bueno de Mesquita, E., Dziuda, W., & Polborn, M. (2026). The AGI Race and Existential Risk. NBER Working Paper 35276. https://doi.org/10.3386/w35276
- Choi, J. P., Jeon, D.-S., & Menicucci, D. (2026). AI Safety and Competition. TSE Working Paper 26-1745 / CEPR DP21454.
- Dal Bó, E. (2006). Regulatory Capture: A Review. Oxford Review of Economic Policy, 22(2), 203–225. https://doi.org/10.1093/oxrep/grj013
- de Neufville, R., & Baum, S. D. (2021). Collective action on artificial intelligence: A primer and review. Technology in Society, 66, 101649. https://doi.org/10.1016/j.techsoc.2021.101649
- Federal Trade Commission. Dealings with Competitors.
- Federal Trade Commission & U.S. Department of Justice. (2024). Withdrawal of the Antitrust Guidelines for Collaborations Among Competitors.
- Federal Trade Commission & U.S. Department of Justice. (2026). Public inquiry regarding guidance on collaborations among competitors.
- Felstead, N. (2026). Can Frontier AI Labs Lawfully Agree to Pause? Lawfare.
- Fernández Domingos, E., & Han, T. A. (2026). Falling Behind Drives Unsafe Development in an Idealised AI Race Experiment. arXiv:2607.26034.
- Google DeepMind. (2023). AI Safety Summit: An update on our approach to safety and responsibility.
- Google DeepMind. (2025). Updating the Frontier Safety Framework.
- Gruetzemacher, R., Avin, S., Fox, J., & Saeri, A. K. (2025). Strategic insights from simulation gaming of AI race dynamics. Futures, 167, 103563. https://doi.org/10.1016/j.futures.2025.103563
- Helfrich, G. (2024). The harms of terminology: why we should reject so-called «frontier AI». AI and Ethics.
- Laufer, B., Kleinberg, J., & Heidari, H. (2026). The backfiring effect of weak AI safety regulation. Proceedings of the National Academy of Sciences, 123(30), e2509768123. https://doi.org/10.1073/pnas.2509768123
- Meta. (2026). Scaling How We Build and Test Our Most Advanced AI.
- Meta. (2025/2026). Our Approach to Frontier AI.
- Newport, C. (2026). Dear A.I. Companies: The Doom Trolling Needs to Stop.
- OpenAI. (2023). Frontier AI Regulation: Managing Emerging Risks to Public Safety.
- OpenAI. Pachocki, J. (2026). An Alien Mind. 6 Sep 2026.
- OpenAI. (2026). Research acceleration: The view inside OpenAI. 6 Sep 2026.
- OpenAI. (2026). The AI policy window is open. We need to act. 9 Sep 2026.
- Pacing the Frontier. (2026).
- Salop, S. C., & Scheffman, D. T. (1983). Raising Rivals’ Costs. American Economic Review, 73(2), 267–271.
- State of California. (2025). SB 53 / Transparency in Frontier Artificial Intelligence Act.
- Stigler, G. J. (1971). The Theory of Economic Regulation. Bell Journal of Economics and Management Science, 2(1), 3–21. https://doi.org/10.2307/3003160
- Westerstrand, S., Westerstrand, R., & Koskinen, J. (2024). Talking existential risk into being. AI and Ethics.
- White House. (2026). Promoting Advanced Artificial Intelligence Innovation and Security. Executive Order 14409.
Sobre esta publicación
- Autor
- Hipólito