Meta y Muse: cómo la memoria del asistente de IA se nutre del entorno social del usuario

Reconocer al plomero que se contrató el año pasado o recordar las flores que le gustan a la pareja son dos tareas que Meta ilustra cuando presenta a Muse, su asistente de inteligencia artificial. Para cumplirlas, el sistema recurre a una memoria particular: no solo guarda datos del usuario, sino también de las personas con las que se vincula, según explicó Daniel Roberts, vocero de la compañía.

Qué halló un investigador externo

El alcance de ese archivo quedó al descubierto por Karan Joshi, investigador independiente en seguridad informática e inteligencia artificial. Durante una conversación común con el chatbot, Joshi logró que el sistema compartiera archivos con sus instrucciones internas. La documentación que obtuvo describe una rutina que se ejecuta cada hora y arma fichas sobre familiares, parejas, amistades, colegas y otras figuras, incluidas las cuentas que el usuario sigue en redes sociales.

Esas fichas se van completando con el tiempo. Incluyen desde intereses en común y temas pendientes hasta cumpleaños, aniversarios, cambios de domicilio, metas de ahorro compartidas y discusiones anteriores. Las instrucciones indican que esos datos solo se cargan cuando hay evidencia en las conversaciones o en las conexiones del usuario, y prohíben completar los perfiles con detalles inventados.

“La información procede de contenidos públicos y de lo que cada usuario comparte. Cada persona dispone de una máquina virtual separada, sin acceso para otros usuarios o agentes.”Daniel Roberts, vocero de Meta

• Quiénes quedan registrados: familiares, parejas, amistades, colegas y cuentas seguidas en redes sociales del usuario.
• Qué se guarda: intereses compartidos, asuntos pendientes, cumpleaños, aniversarios, mudanzas, objetivos de ahorro en común y desacuerdos previos.
• Cada cuánto se actualiza: una vez por hora, de forma automática.
• Condición: solo se incorpora un dato cuando aparece respaldado en conversaciones o conexiones del usuario.

Cómo funciona la memoria y sus límites

Para entender la mecánica, sirve la imagen de un fichero físico que un asistente personal mantiene en un cajón con candado. Cada hora, el asistente abre ese cajón, revisa lo que tiene anotado y, si encuentra un dato nuevo en las conversaciones o en lo que el usuario publica, lo suma a la ficha de la persona correspondiente. El candado es individual: cada usuario tiene su propio cajón y nadie más puede mirar adentro.

Meta sostiene que Muse ofrece un registro de auditoría donde revisar la actividad del agente y un mecanismo para borrar la memoria guardada. También permite cortar la conexión con servicios externos que aportan información al sistema. Antes de ejecutar acciones con consecuencias —enviar un correo, hacer una compra— el asistente pide confirmación. Esos controles, aclaró la empresa, están disponibles para quien instaló Muse.

Lo que falta para que la gente cuente con garantías plenas es el otro lado de la memoria. El material difundido no detalla qué ocurre con las fichas cuando un conocido no es usuario de Meta ni cómo se enteran los terceros de que figuran en los registros de otra persona. La compañía tampoco explicó, en lo que se conoció hasta ahora, un canal para que quienes aparecen en esas fichas pidan su eliminación sin necesidad de tener una cuenta propia. Por ahora, el control del archivo queda en manos de quien invitó al asistente a su vida digital.