Pieza
OECD AI Principles · La confianza empieza a convertirse en infraestructura
Los principios de IA de la OCDE, adoptados en 2019 y actualizados en 2024, ponen transparencia, seguridad, responsabilidad y respeto de derechos junto a la innovación. La señal es anterior al boom generativo: la capacidad técnica necesita condiciones de confianza para extenderse.
Posición en el puzzle
Dónde participa esta pieza
Grupos
- IA generativa y ampliación del trabajo cognitivo
- Responsabilidad, trazabilidad y assurance
- Instituciones, regulación y experimentación
- Capital, plataformas e infraestructura del mercado agéntico
Entidad: Organización para la Cooperación y el Desarrollo Económicos (OCDE)
Referencia: OECD AI Principles · adoptados en 2019, actualizados en 2024
Antes de que ChatGPT convirtiera la inteligencia artificial en una conversación cotidiana, la OCDE ya había formulado una señal importante: no basta con que un sistema sea potente.
Para que la IA pueda extenderse de forma sostenible, también necesita condiciones de confianza.
Los principios de la OCDE hablan de innovación y crecimiento, pero junto a ellos sitúan derechos humanos y valores democráticos, transparencia, posibilidad de comprender y cuestionar resultados, robustez, seguridad y responsabilidad.
La confianza no es un adorno ético
En muchos mercados, una tecnología solo puede crecer cuando las personas y organizaciones aceptan delegarle alguna parte de una actividad.
Para hacerlo necesitan razones suficientes para confiar.
Un banco no puede utilizar un sistema relevante si nadie sabe quién responde cuando falla. Una empresa no puede compartir información sensible sin entender cómo se protege. Una administración no debería tomar decisiones que afectan a derechos sin mecanismos de explicación y revisión.
La confianza, por tanto, no aparece después del producto como una campaña de comunicación.
Forma parte de las condiciones que permiten que el producto pueda utilizarse.
Una señal anterior al auge generativo
Esto ayuda a poner la IA actual en perspectiva.
Los principios fueron adoptados en 2019, años antes de la popularización de la IA generativa.
Las instituciones ya veían que, a medida que los sistemas ganaban presencia en decisiones y servicios, aparecía una necesidad paralela de transparencia, seguridad y responsabilidad.
La explosión generativa no crea ese problema. Lo amplía porque lleva capacidad artificial a muchas más personas y actividades.
Cuanto más se utiliza una tecnología, más actores necesitan entenderla suficientemente
No todo el mundo necesita saber entrenar un modelo.
Pero muchas personas necesitarán saber cosas distintas sobre él.
Un directivo necesita comprender qué riesgo asume. Un trabajador, cuándo está interactuando con un sistema y qué puede esperar. Un cliente, cómo cuestionar un resultado relevante. Un regulador, qué evidencia pedir. Un técnico, cómo detectar un fallo. Un abogado, dónde se sitúa la responsabilidad.
Eso convierte la transparencia en una función práctica, no en un documento que se publica al final.
Oportunidades que abre esta necesidad
Cada exigencia de confianza crea trabajo.
Habrá oportunidades en documentación, auditoría, explicabilidad, evaluación de riesgos, pruebas, ciberseguridad, privacidad, formación y comunicación clara sobre capacidades y límites.
Abogados pueden especializarse en traducir principios generales a decisiones empresariales concretas.
Auditores pueden desarrollar nuevas formas de evidencia para sistemas que cambian y producen resultados probabilísticos.
Comunicadores pueden ayudar a explicar a usuarios qué hace realmente una herramienta sin convertir la explicación en publicidad.
Diseñadores pueden crear interfaces que hagan visibles límites, incertidumbre y posibilidades de revisión.
Especialistas en seguridad pueden construir mecanismos para detener, reparar o retirar sistemas cuando sea necesario.
Y profesionales sectoriales pueden ayudar a definir qué significa un uso aceptable en medicina, educación, empleo, finanzas o servicios públicos.
La confianza también puede ser una ventaja competitiva
A veces se presenta la responsabilidad como un coste que frena la innovación.
Puede ser un coste si se gestiona mal. Pero también puede convertirse en una ventaja.
Cuando dos proveedores ofrecen capacidades parecidas, un cliente puede preferir al que documenta mejor, protege mejor sus datos, responde ante incidentes y permite comprender qué está ocurriendo.
En mercados sensibles, la capacidad de demostrar confianza puede abrir puertas que una tecnología más potente pero opaca no puede cruzar.
Qué nos dice esta pieza sobre Lo que viene
Los principios de la OCDE no predicen cómo será el mercado de IA ni ofrecen controles detallados para cada caso.
Su valor para el Observatorio es histórico y estructural: antes del auge actual ya estaba apareciendo una infraestructura institucional destinada a hacer gobernable la capacidad artificial.
A medida que la IA entre en más actividades, esa infraestructura crecerá.
Y con ella crecerán oportunidades para quienes sepan convertir palabras como transparencia, seguridad y responsabilidad en cosas que una organización pueda hacer cada día.
La tecnología abre posibilidades.
La confianza decide muchas veces hasta dónde pueden llegar esas posibilidades en el mundo real.