Muse de Meta arma fichas sobre la familia, los amigos y hasta la pareja del usuario sin que ellos lo sepan

La pregunta suena simple y, sin embargo, abre un hueco incómodo en la vida digital de millones de personas: qué sabe de mí el asistente de inteligencia artificial que un familiar, un amigo o un socio decidió instalar en su teléfono. La respuesta la acaba de poner sobre la mesa Karan Joshi, un investigador independiente en seguridad informática e inteligencia artificial, que logró que Muse, el chatbot de Meta, le mostrara sus propias instrucciones internas. Lo que allí se describe es una rutina que se ejecuta cada sesenta minutos y que se dedica, con método, a construir perfiles sobre familiares, parejas, amigos, colegas y hasta sobre cuentas que el usuario sigue en redes sociales.

Daniel Roberts, vocero de la empresa, defendió el mecanismo y sostuvo que ese contexto ayuda al asistente a cumplir con los objetivos de quien lo utiliza. De acuerdo con su explicación, la información que Muse incorpora a sus fichas proviene de contenidos públicos y de aquello que el propio usuario comparte en las conversaciones o en sus conexiones. La compañía asegura, además, que cada persona dispone de una máquina virtual separada, sin acceso para otros usuarios ni para otros agentes, y que el sistema pide confirmación antes de mandar un correo o hacer una compra.

Qué se guarda y con qué criterio

Las instrucciones obtenidas por Joshi son precisas y, para los estándares de la industria, llamativamente detalladas. La documentación detalla que los perfiles pueden incorporar cumpleaños, aniversarios, cambios de domicilio, objetivos de ahorro en común e incluso desacuerdos anteriores entre el usuario y cada uno de sus contactos. También se mencionan intereses compartidos, asuntos pendientes y datos sobre la calidad del vínculo. La única condición que la propia Meta establece en su instructivo es que esos datos deben tener respaldo en conversaciones o en conexiones previas: las fichas no se completan con información inventada, una salvaguarda que, en los hechos, no resuelve el problema de fondo.

“La memoria de Muse se actualiza cada hora y registra antecedentes del vínculo, intereses compartidos, asuntos pendientes y datos sobre la relación, incluidos cumpleaños, aniversarios, cambios de domicilio, objetivos de ahorro en común y desacuerdos anteriores.”Documento interno de Muse, citado por el investigador Karan Joshi

El propio ejemplo que Meta eligió para presentar Muse resulta elocuente: reconocer que una factura corresponde al plomero contratado el mes pasado o recordar las flores favoritas de la pareja. Son dos casos de uso domésticos, casi entrañables, que muestran la promesa del producto pero esconden su contracara. Para que el asistente cumpla con esas tareas tiene que saber quién es ese plomero, cómo se llama, qué trabajos hizo antes y, sobre todo, qué relación tiene con el usuario. Y para llegar a ese nivel de detalle necesita conversar, registrar y cruzar información de manera permanente.

Quién puede borrar qué

El hallazgo de Joshi llegó, además, por un camino que complica todavía más el panorama. El investigador no vulneró un servidor ni sorteó un firewall: simplemente le hizo un pedido a Muse dentro de la conversación habitual y el chatbot le entregó archivos con sus propias instrucciones internas. Es decir, el sistema está diseñado de un modo en el que cualquier usuario con algo de paciencia puede llegar al mismo material que expuso el mecanismo. Meta no respondió, al menos por ahora, si esa vía sigue abierta o si fue corregida después de la divulgación.

La otra mitad del problema es la asimetría de poder entre quien instala el asistente y quien queda registrado en su memoria. Un usuario puede borrar sus datos, revisar qué se guardó y desconectar servicios externos. Su madre, su socio comercial o su ex pareja, en cambio, no tienen ni voz ni voto sobre la ficha que Muse armó de ellos. Esa asimetría es la que la empresa no resolvió con ninguno de los anuncios que rodearon el lanzamiento y la que, tarde o temprano, va a terminar en un escritorio de regulador.

Mientras tanto, la pelota está en la cancha del Gobierno nacional, que hasta acá miró de costado el avance de la inteligencia artificial sobre la vida cotidiana de los argentinos. Regular la memoria de los asistentes no es un tema de tecnología: es un tema de derechos.