LAB-06 · UI-001 · Dossier de investigación
Doom trolling · Un nombre nuevo para un problema anterior
Reconstrucción del término doom trolling, sus antecedentes y sus límites de aplicación para estudiar cómo se comunican capacidad, riesgo, inevitabilidad y responsabilidad en inteligencia artificial.
Un término puede ser nuevo y señalar una configuración que ya estaba operando antes de recibir nombre.
El 31 de agosto de 2026, un artículo de Ramón López de Mántaras en La Vanguardia llevó a LAB-06 a una expresión reciente: doom trolling.
La expresión había sido utilizada unas semanas antes por Cal Newport para criticar un comportamiento concreto de algunas compañías de inteligencia artificial: advertir públicamente de escenarios de riesgo extremo mientras continúan desarrollando, desplegando y compitiendo con los mismos sistemas cuya capacidad presentan como potencialmente peligrosa.
La primera pregunta del laboratorio fue sencilla: ¿estamos ante una palabra nueva, un fenómeno nuevo o una forma nueva de nombrar un problema anterior?
La respuesta provisional es clara en dos niveles distintos.
El término exacto es reciente. El problema discursivo tiene antecedentes anteriores.
Qué designa el término
En junio de 2026 Cal Newport publicó Dear A.I. Companies: The Doom Trolling Needs to Stop y presentó doom trolling como su término para describir una combinación que considera moralmente problemática: compañías que destacan el potencial catastrófico de la tecnología y, simultáneamente, sostienen su desarrollo y comercialización.
Su crítica se dirige especialmente a la posición comunicativa que puede producirse cuando la misma organización ocupa varias posiciones a la vez:
desarrollador
+ evaluador de capacidad
+ emisor de la advertencia
+ beneficiario de la percepción de potencia
+ actor de mercadoLa palabra aporta una etiqueta memorable. Para que sea analíticamente útil hace falta observar después la conducta completa.
El problema existía antes del nombre
La búsqueda de antecedentes encuentra una discusión reconocible varios años antes.
En marzo de 2023 Brian Merchant planteó en Los Angeles Times una cuestión muy próxima: el miedo comunicado por quienes venden IA puede funcionar también como publicidad de la extraordinaria potencia de aquello que venden.
En junio de 2023 un editorial de Nature sostuvo que concentrar el debate público en un futuro apocalíptico podía favorecer la agenda de las grandes compañías tecnológicas y desplazar la atención desde daños presentes hacia escenarios más remotos.
En 2024, Salla Westerstrand, Rauli Westerstrand y Jani Koskinen analizaron en AI and Ethics el discurso de riesgo existencial como una forma capaz de influir en la comprensión pública, la regulación y la dirección del desarrollo tecnológico.
También en 2024 Gina Helfrich estudió el efecto del término frontier AI y defendió que la terminología participa en la selección de qué riesgos se vuelven centrales en la conversación pública.
Por tanto, doom trolling concentra en dos palabras una discusión anterior sobre riesgo, poder discursivo, hype, agenda regulatoria, capacidad y mercado.
Una primera precisión: hablar de riesgo y hacer doom trolling son cosas distintas
La advertencia de riesgo puede cumplir una función legítima y valiosa. Un desarrollador dispone a menudo de información privilegiada sobre las capacidades, fallos y límites de sus propios sistemas. Su comunicación puede mejorar conocimiento público, preparación institucional y seguridad.
La categoría se vuelve útil cuando se examina la configuración completa:
advertencia
+ intensidad del escenario
+ incertidumbre declarada
+ lenguaje de capacidad
+ conducta posterior
+ mitigación
+ coste asumido
+ aceleración o pausa
+ posición competitiva
+ narrativa de inevitabilidadEsta secuencia permite distinguir comportamientos que superficialmente parecen iguales.
Dos empresas pueden hablar de riesgos extremos y estar haciendo cosas materialmente distintas después de la advertencia.
Los contraejemplos importan
La primera investigación encontró precisamente los casos que obligan a afinar la etiqueta.
Anthropic mantiene una Responsible Scaling Policy que vincula determinados niveles de capacidad y riesgo con salvaguardas, restricciones y condiciones para continuar escalando o desplegando. La existencia de ese régimen introduce una diferencia material entre comunicar riesgo y asumir una política que puede limitar el propio desarrollo.
OpenAI, después de un incidente de seguridad durante una evaluación realizada con infraestructura de Hugging Face, comunicó medidas que incluían pausas de determinados entrenamientos orientados a despliegue, reasignación de personal y cambios técnicos con costes y retrasos operativos.
Estos casos muestran que el criterio decisivo necesita observar qué conducta sigue a la advertencia.
El lenguaje de peligro adquiere un significado distinto cuando la organización acepta límites, costes, pausas, controles o pérdida de velocidad competitiva vinculados al riesgo declarado.
El caso Anthropic: capacidad y cautela en la misma fuente
El texto de Anthropic When AI builds itself ofrece un ejemplo especialmente útil.
La pieza estudia la posibilidad de que sistemas de IA participen cada vez más en la investigación y desarrollo de sistemas posteriores. Esa posibilidad puede alimentar con facilidad una narrativa de aceleración autónoma.
Sin embargo, la propia fuente introduce una diferencia importante: presenta la mejora recursiva como una posibilidad y afirma expresamente que su aparición no es inevitable. Después añade otra capa distinta: las dificultades competitivas y geopolíticas de una pausa unilateral.
Esto obliga a separar al menos tres proposiciones:
- una trayectoria técnica puede ser posible;
- su realización puede ser incierta;
- los actores pueden percibir fuertes incentivos para continuar desarrollándola.
Compactar las tres en «la empresa dice que es inevitable» pierde información causal relevante.
El caso OpenAI y Hugging Face: del hecho técnico al relato de agencia
Otro caso aparece cuando un incidente técnico circula mediante lenguaje de voluntad.
OpenAI describió comportamientos de modelos durante evaluaciones internas de ciberseguridad en los que se utilizaron canales o vulnerabilidades fuera de la trayectoria prevista por la tarea. La documentación técnica permite estudiar acciones, controles, entorno de evaluación, herramientas y fallos de contención.
En la circulación pública, ese tipo de hechos puede comprimirse mediante expresiones como «la IA escapó», «se rebeló» o «decidió saltarse las reglas».
El cambio de vocabulario altera la unidad causal que el lector percibe.
Una reconstrucción técnica puede contener:
modelo
+ objetivo de evaluación
+ entorno
+ permisos
+ herramientas
+ vulnerabilidad
+ controles
+ intervención humanaLa narración agentiva puede condensarlo en:
IA
→ voluntad
→ acciónLa segunda forma es mucho más fácil de recordar. También reorganiza la atribución.
Esta diferencia abre una investigación propia de LAB-06 y una derivación jurídica directa hacia H&C: lenguaje, causalidad y responsabilidad forman parte de una misma reconstrucción cuando el efecto depende de una arquitectura distribuida.
La inevitabilidad también necesita capas
Durante el primer contraste apareció otra corrección.
La palabra inevitable puede referirse a cosas diferentes:
- inevitabilidad tecnológica: la capacidad aparecerá necesariamente;
- inevitabilidad competitiva: algún actor seguirá desarrollándola;
- imposibilidad de pausa unilateral: una organización considera insuficiente detenerse sola;
- inevitabilidad narrativa: el futuro se presenta públicamente como dirección ya cerrada.
Cada una produce consecuencias distintas.
La investigación de LAB-06 seguirá tratando estas capas por separado porque la frase «esto ocurrirá de todos modos» puede cambiar decisiones presentes incluso cuando la predicción permanezca abierta.
Método · señal → hipótesis → predicción → contraste → conclusión provisional → derivaciones.
Predicciones formuladas antes del contraste específico
Antes de ampliar la búsqueda documental, UI-001 fijó una serie de predicciones.
Si la hipótesis inicial tenía fuerza, debíamos encontrar:
- un uso reciente del término exacto;
- antecedentes conceptuales anteriores a la etiqueta;
- diferencias entre fuente primaria y circulación mediática;
- casos de empresas que, tras advertir riesgos, asumieran costes o restricciones reales;
- antecedentes de la hipótesis de señalización de capacidad o marketing mediante riesgo;
- usos distintos de la idea de inevitabilidad según la capa del discurso.
El contraste inicial apoyó con claridad la novedad léxica provisional, los antecedentes conceptuales, la discusión sobre marketing y la existencia de casos negativos. También mostró que la pérdida de matices y la inevitabilidad necesitan un corpus mayor antes de formular generalizaciones.
Ese resultado mejora la pregunta inicial.
Qué permite sostener hoy
La investigación permite formular cinco conclusiones provisionales.
1. Doom trolling es una etiqueta reciente. Su formulación pública actual está asociada a Cal Newport en 2026.
2. El problema conceptual es anterior. Desde 2023 existe una discusión pública y académica reconocible sobre el valor estratégico, regulatorio y comercial del discurso de riesgo extremo en IA.
3. La etiqueta gana precisión cuando incorpora conducta posterior. Advertencia, mitigación, costes asumidos, pausa, despliegue y posición competitiva forman parte del mismo caso.
4. El lenguaje puede modificar la causalidad percibida. Narrar un sistema como agente unitario puede ocultar o desplazar componentes de la arquitectura que produjeron el efecto.
5. Efecto e intención requieren estatutos distintos. Una comunicación puede producir señalización de capacidad, miedo, atención o inevitabilidad como efecto observable; la intención estratégica de producir exactamente ese efecto exige evidencia adicional.
Qué queda abierto
UI-001 continuará con un corpus comparativo de comunicaciones empresariales, respuestas regulatorias y reconstrucciones mediáticas.
Interesa especialmente observar:
- cuándo una advertencia viene acompañada de decisiones costosas;
- cuándo el discurso de riesgo amplifica percepción de capacidad;
- cómo cambia la formulación al pasar de la fuente primaria al titular;
- qué actores ganan o pierden centralidad causal en cada narración;
- cómo se comporta la idea de inevitabilidad a lo largo del tiempo.
La unidad permanece abierta porque el fenómeno está vivo.
Fuentes iniciales
- Cal Newport · Dear A.I. Companies: The Doom Trolling Needs to Stop
- Ramón López de Mántaras · Doom trolling: el gran negocio del miedo a la IA · La Vanguardia
- Anthropic · When AI builds itself
- Anthropic · Responsible Scaling Policy
- OpenAI · Hugging Face model evaluation security incident
- OpenAI · Hugging Face incident and the road ahead
- Brian Merchant · Afraid of AI? The startups selling it want you to be · Los Angeles Times
- Nature · Stop talking about tomorrow’s AI doomsday when AI poses risks today
- Westerstrand, Westerstrand & Koskinen · Talking existential risk into being
- Gina Helfrich · The harms of terminology: why we should reject so-called “frontier AI”
Derivaciones
Esta investigación abre ya dos líneas públicas relacionadas:
- Paraíso: imaginarios, antropomorfización, inevitabilidad y acoplamiento entre relato y forma técnica.
- H&C: lenguaje agentivo, reconstrucción causal, supervisión, prueba y responsabilidad en sistemas de IA.