Categories
Reportajes

Alexa, ¿me estás espiando?

¿Alguna vez te has planteado cuánto valen tus datos? ¿Cuánto estarías dispuesto a recibir a cambio de que alguien supiera que Kid A es tu disco favorito de Radiohead? ¿Y por saber qué pides en tu chino favorito? O, mejor aún, ¿cuánto pides a cambio de que alguien sepa que tienes que ir al dentista el martes que viene a las nueve y media de la mañana? 

En el actual mundo del big data y el del análisis del comportamiento del usuario, hasta nuestros datos más triviales son bienes codiciados por las grandes empresas como Amazon o Google, cuyo modelo de negocio está basado, literalmente, en nuestros datos más triviales. De alguna forma, lo que buscan estas empresas es, esencialmente, crear tu perfil a través de estos datos. Hacer un retrato robot de tus preferencias (‘profiling’, que se dice) para identificar patrones de comportamiento. Así pueden planear estímulos que influyan, a corto plazo, en la forma en la que consumes y compras, y, en el largo, en la forma en la que piensas. 

Pongamos un ejemplo. ¿Que quieres saber dónde está el supermercado más cercano? De acuerdo, aquí lo tienes, pero te sugiero que visites nuestra tienda de productos frescos online donde, además, tenemos los yogures que has buscado antes a mitad de precio. Y así, en vez de hacer la compra hoy en Mercadona, la haces por Amazon. A corto plazo, hacer esto una o dos veces no parece descabellado, pero si la excepción se convierte en hábito, llegará un punto en el que cuando necesitemos hacer la compra, lo primero que vendrá a nuestra cabeza será encender el ordenador, no ir a por las llaves del coche

En el mundo post-Cambridge Analítica, los ciudadanos han comenzado a tener consciencia de los límites que estas empresas están dispuestas a cruzar por monetizar tu afición al cine clásico. Y, en un contexto tan constantemente innovador, donde las fronteras entre lo público y lo privado se redefinen con cada avance, surge una sutil paranoia por tratar de evitar que las grandes corporaciones conozcan información sobre nosotros que, en principio, no les hemos dado o no nos interesa que sepan

Esto, por supuesto, no significa que tengas que creerte la primera teoría de la conspiración que tu cuñado te garantiza que es real porque lo vio en vídeo de YouTube, pero más que nunca es importante entender la tecnología que nos rodea. Especialmente si esa tecnología es un asistente virtual que se pasa 24 horas al día metido en tu salón esperando a que le pidas algo.

“Alexa, ¿eres una agente doble enviada para escuchar detalles ocultos de mi rutina diaria?”

El miedo a que las grandes empresas violen nuestra intimidad se ha traducido en una serie de noticias, como la de la familia de Portland, cuya Alexa envió una conversación grabada accidentalmente a una persona aleatoria de sus contactos, que convierten en patrones errores puntuales.  Dan a entender que nuestros asistentes virtuales nos escuchan cuando no deberían, grabando a escondidas para Amazon conversaciones que les ayuden a desarrollar sus preciados perfiles de comportamiento.

Estas noticias, que casi nunca tienen una base científica, fueron las que inspiraron a Anna Maria Mandalari, investigadora asociada en la Escuela Dyson de la Facultad de Ingeniería del Imperial College de Londres, a diseñar junto a otro grupo de investigadores un estudio organizado por la Northeastern University de Boston que analizara el funcionamiento de Alexa y poder así aportar esa base científica.

Mandalari explica que, al igual que otros smart speakers como Google Home Mini o Apple Homepod (o Siri), Alexa es un ejemplo de inteligencia artificial que funciona a través de cloud computing. Cuando el usuario pronuncia una de las cuatro palabras clave que activan Alexa (Echo, Computer, Alexa o Amazon) el dispositivo reconoce a través de un detector interno llamado ‘wake word engine’ que se le está pidiendo algo, pero no es capaz de procesar la información localmente. Por lo tanto, lo que hace es grabar esa petición, enviar la grabación a la nube de Amazon para que sea procesada (y almacenada) y esperar una respuesta de vuelta. Y es aquí donde empiezan los problemas. 

“Existe una diferencia entre lo que definimos como ‘escuchar’, que es algo que Alexa hace de forma local y se limita a detectar la palabra clave, y cuando Alexa envía un dato a la nube, que es algo que definimos como ‘activar’”, cuenta Mandalari. Alexa solo envía grabaciones cuando se activa al escuchar la palabra clave, pero cuando cree que la ha detectado también envía una grabación a la nube de, por ejemplo, tu conversación telefónica privada con tu amigo Alex, cuyo nombre ha hecho pensar a Alexa que necesitabas algo. Esto se conoce como ‘falsas activaciones’ y una de las teorías que ha surgido en torno a ellas es que estos trozos de grabación aleatoria son los que Amazon está tratando de escuchar. El estudio en el que participó Mandalari se propuso investigar esta teoría: ¿nos graba Alexa sin que nos demos cuenta?

“Alexa, ¿eres una agente doble enviada para escuchar y grabar detalles ocultos de mi rutina diaria?”

Para averiguar qué palabras activaban los dispositivos y cuánto tiempo permanecían grabando, el estudio reprodujo a siete dispositivos diferentes (incluyendo cuatro Echos) 125 horas de series de televisión hasta un total de 12 veces. Observaron en cuántas ocasiones se despertaban los dispositivos sin utilizar la palabra clave y, efectivamente, fueron unas cuantas. 

De acuerdo con los resultados, estos dispositivos no envían grabaciones a la nube periódicamente, pero sí se activan accidentalmente entre 2 y 19 veces al día. Y, mientras que solo el 8,44% de las activaciones fueron constantes durante las 12 veces que se repitió el experimento (dando a entender que estos dispositivos aprenden de sus errores), sí que se registraron envíos de grabaciones de algunos dispositivos, como el Echo Dot de 2ª Generación, que llegaron a durar 43 segundos.

Pero esto no confirma ninguna teoría de la conspiración. Ni mucho menos. Jorge Villarino, socio director de regulación en la consultoría Vinces y autor de ‘La privacidad en el entorno del cloud computing’, señala que estas activaciones son “el margen de error que puede tener cualquier tipo de dispositivo”, y recuerda que la grabación de los datos de voz que lleva a cabo Alexa es siempre con la finalidad de poderte prestar el servicio que tú has contratado, no con la de robarte datos furtivamente

“Alexa, ¿eres un instrumento de escucha encubierta ante el que la sociedad está indefensa?”

Aunque no hay nada tan infalible para que Alexa no grabe tus datos como no comprarse un Alexa, tanto Villarino como Mandalari señalan que, como usuarios, disponemos de herramientas para defendernos o, por lo menos, afrontar los descubrimientos del estudio. La primera y más sencilla es la opción que Amazon otorga al usuario de poder borrar todas las grabaciones. De hecho, incluso permite programar ese borrado. Mandalari, eso sí, apunta que no puede garantizar que Amazon también las borre de su nube, porque, aunque ellos digan que sí lo hacen y las grabaciones desaparezcan de la aplicación, una vez que tu voz ha pasado por el router ya está fuera de nuestro control. Nadie salvo ellos sabe si realmente desaparecen para siempre, aunque tampoco hay indicios de que no lo hagan.

Algo que sí tiene garantía de eficacia es silenciar el micrófono de Alexa cada vez que se pueda o cada vez que se vayan a discutir datos sensibles, ya que el estudio también demostró que cuando está silenciado, no se activa nunca. Otras opciones (no excluyentes, por supuesto) que recomienda Mandalari son no decir que sí a todo lo que nos pida, sino solo a lo que consideremos estrictamente necesario y, por pesado que pueda parecer, leer los términos y condiciones del producto. Villarino explica que nadie lo hace porque, evidentemente, cuando compras Alexa, lo desembalas y lo pones, “lo que quieres es empezar a pedirle chorradas, no decir: ‘Espérate que primero me voy a meter en las diferentes opciones de privacidad’”. Pero, ante una genuina preocupación, ahí encontrarás la mejor explicación de lo que Amazon quiere hacer con tus datos. 

“Alexa, ¿eres una cruenta manifestación de las tendencias más corrosivas del capitalismo tardío en Occidente causadas por el desarrollo empresarial moderno?”

Aunque Alexa no esté configurada con la sola intención de detectar, a través de activaciones accidentales, el llanto de un bebé de fondo para que, la próxima vez que tú te metas en tu cuenta de Amazon, te ofrezca unos patucos para venderte, tanto la inteligencia artificial como la fragilidad de la privacidad, temas ya de por sí complejos, forman parte de un problema mucho mayor. “Yo creo que vivimos en un muy difícil equilibrio entre la evolución tecnológica, que discurre a unas velocidades impensables, y una sociedad que está ávida de servicios tecnológicos – dice Villarino-. Como sociedad, cada vez queremos más y más rápido, lo que nos lleva en muchas ocasiones a descuidar nuestra capacidad de control”. Y es aquí donde entran las leyes.

Villarino explica que el derecho, que no deja de ser un instrumento de ordenación de la sociedad, se encuentra ante el problema de tener que hacer frente, al mismo tiempo, a unos ciclos de producción de normas que son muy lentos, y a materias que técnicamente son muy complejas y que evolucionan a una velocidad frenética. A lo que tenemos que añadir, además, el hecho de que si se imponen unas normas demasiado restrictivas quizá nos encontremos ante el fenómeno de que estamos parando la capacidad de innovación tecnológica. Pero ante esto, Villarino no tiene dudas: “Al final, la tecnología es una genialidad, no nos engañemos, y como todo en la vida, se puede usar para bien o para mal”. 

Si bien la transparencia de Amazon podría incrementar, Villarino opina que en última instancia los usuarios tenemos parte de responsabilidad sobre nuestras acciones. De lo contrario, el precio a pagar es que alguien sepa que tienes que ir al dentista el martes que viene a las nueve y media de la mañana. Que cada uno considere cuánto valen sus datos. Que cada uno considere el valor de su privacidad.