Meta y Muse: qué hace con los datos de tu círculo íntimo el nuevo asistente con inteligencia artificial

¿Le confiarías a una aplicación los nombres, gustos y hasta las discusiones con tu pareja, tu familia o tus amigos? Meta acaba de admitir que su nuevo agente, Muse, haga eso. Y lo hace cada hora, sin pedirte permiso para registrar a las personas de tu entorno.

El asistente de inteligencia artificial de la empresa de Mark Zuckerberg utiliza información sobre vínculos personales para recordar contactos y preferencias del usuario. Lo confirmó Daniel Roberts, vocero de la compañía, en declaraciones recogidas por este medio.

Cómo se entera Muse de tu vida y la de tu círculo

La clave está en un sistema de fichas que el agente actualiza de forma automática. El hallazgo lo hizo Karan Joshi, investigador independiente en seguridad informática e inteligencia artificial, que consiguió que el chatbot le mostrara sus archivos de instrucciones internas mediante un pedido dentro de la conversación habitual.

• Una rutina que se ejecuta cada hora y arma perfiles de familiares, parejas, amistades, colegas y otras personas, incluidas cuentas que el usuario sigue en redes sociales.
• Los registros suman con el tiempo antecedentes del vínculo, intereses compartidos, asuntos pendientes y datos sobre la relación.
• También pueden guardar cumpleaños, aniversarios, cambios de domicilio, objetivos de ahorro en común y desacuerdos anteriores, siempre que haya información que los respalde en las conversaciones o conexiones del usuario.

Qué dice Meta y qué margen tenés vos

Roberts sostuvo que ese contexto ayuda al asistente a cumplir los objetivos de quien lo usa. Según explicó, la información procede de contenidos públicos y de aquello que el usuario comparte. La empresa también asegura que cada usuario dispone de una máquina virtual separada, sin acceso para otros usuarios o agentes.

En la práctica, el control de la memoria queda en manos de quien instaló Muse. Las fichas sobre los demás se construyen a partir de lo que vos decís o de lo que se ve en redes, pero la persona incluida en el perfil no tiene forma de revisar qué se guarda sobre ella ni de pedir que se borre. Esa asimetría es, para muchos especialistas, el punto más sensible del diseño.

“El sistema solicita confirmación antes de mandar un correo electrónico o realizar una compra, y ofrece un registro de auditoría para revisar la actividad. Aun así, las personas incluidas en los perfiles no tienen control sobre esos datos.”Daniel Roberts, vocero de Meta

En criollo: Meta te da un botón para ver qué sabe de tu cuñado, pero tu cuñado no tiene ninguno para saber qué dice esa ficha. Si te sirve, probalo con cuidado: lo que le contás a Muse no vuelve solo a vos.