Pieza
Agentes y privacidad · Cuanto más útil quiere ser el agente, más fronteras necesita atravesar
Meredith Whittaker, presidenta de Signal, advierte que los agentes capaces de actuar por una persona necesitan acceso amplio a navegador, pagos, calendario y mensajería. Es una pieza adversarial: la ampliación de capacidad puede debilitar las separaciones que protegían datos y aplicaciones.
Posición en el puzzle
Dónde participa esta pieza
Grupos
- Agentes, delegación y autoridad
- Responsabilidad, trazabilidad y assurance
Voz observada: Meredith Whittaker, presidenta de Signal
Referencia: intervención en SXSW · 7 de marzo de 2025, recogida por TechCrunch y otros medios
Imaginemos una tarea aparentemente inocente: buscar un concierto, comprar entradas, añadirlo al calendario y avisar a los amigos.
Para completar toda la secuencia, un agente necesita algo más que inteligencia lingüística.
Necesita poder utilizar el navegador, acceder a datos de pago, consultar calendario y contactos, entrar en una aplicación de mensajería y actuar a través de varias fronteras que normalmente mantenemos separadas.
Ese es el núcleo de la advertencia de Meredith Whittaker.
La utilidad del agente crece precisamente porque aumenta su acceso. Y la superficie de riesgo crece por la misma razón.
Las aplicaciones estaban separadas por diseño
Un calendario no necesita leer todos nuestros mensajes para mostrar una cita.
Una aplicación bancaria no necesita conocer todas nuestras conversaciones. Una mensajería cifrada intenta limitar quién puede acceder al contenido incluso cuando otras partes del dispositivo están comprometidas.
Los agentes prometen coordinar esos espacios para ahorrar trabajo al usuario.
Pero coordinar exige cruzar fronteras.
Whittaker advierte de que integrar agentes a nivel del sistema operativo puede erosionar separaciones que funcionaban como mecanismos de seguridad y privacidad entre aplicaciones.
El problema no es solo cuánto dato ve el modelo
También importa qué puede hacer con ese acceso.
Leer una tarjeta de crédito es sensible. Poder utilizarla para pagar añade capacidad de acción. Leer mensajes es sensible. Poder responder en nombre del usuario añade capacidad de representación.
Cuando lectura y acción se combinan, un fallo de autenticación, una instrucción maliciosa o una interpretación equivocada puede propagarse de un sistema a otro.
La privacidad deja de ser únicamente secreto de datos. Se convierte también en control sobre qué sistema puede actuar con qué parte de nuestra vida.
La comodidad tiene una arquitectura
La promesa comercial suele presentar la experiencia final: pedir una tarea y olvidarse de los pasos.
La pieza adversarial obliga a mirar la infraestructura necesaria para producir esa comodidad.
¿Qué permisos recibe el agente? ¿Durante cuánto tiempo? ¿Puede una aplicación declarar que sus datos quedan fuera? ¿Se procesa información localmente o se envía a servicios remotos? ¿Qué ocurre con credenciales y tokens? ¿Cómo revoca el usuario una autorización?
Estas preguntas no eliminan la oportunidad. La hacen más precisa.
Una advertencia no es evidencia de daño generalizado
Whittaker es una defensora explícita de privacidad y Signal tiene un interés directo en preservar las garantías de su aplicación.
Sus comentarios son una advertencia sobre arquitectura y riesgo, no un estudio empírico que demuestre una frecuencia determinada de incidentes causados por agentes.
El Observatorio conserva esta pieza como contradictoria precisamente porque evita que el entusiasmo por capacidad trate el acceso como un coste invisible.
Oportunidades que abre esta tensión
La necesidad más evidente es diseñar agentes con permisos mínimos y suficientemente comprensibles.
Eso abre trabajo para especialistas en identidad y acceso, privacidad, seguridad de sistemas operativos, ejecución local, aislamiento, gestión de secretos y consentimiento. También para herramientas que permitan a una aplicación negar acceso a determinados contextos, o a un usuario conceder autorización solo para una acción y no para una categoría completa de datos.
Profesionales de protección de datos pueden pasar de revisar formularios de privacidad a participar en arquitectura de permisos. Diseñadores de producto pueden hacer visible qué necesita un agente antes de aceptarlo. Auditores pueden comprobar si el comportamiento real coincide con las autorizaciones declaradas.
Qué nos dice esta pieza sobre Lo que viene
La fase agéntica contiene una tensión estructural.
Para ser más útil, el sistema necesita contexto y capacidad de acción. Para ser más seguro, a menudo necesitamos limitar precisamente contexto y capacidad de acción.
No existe una respuesta universal que elimine esa tensión.
Por eso la pieza favorece una conclusión importante: el nuevo mercado no crecerá solo alrededor de agentes capaces de hacer más. Crecerá también alrededor de mecanismos que les permitan hacer suficiente sin obtener poder innecesario sobre el resto del sistema.
La privacidad no aparece aquí como freno externo a la innovación. Aparece como una capacidad de diseño necesaria para que la ampliación de acceso pueda sostenerse.