Meta desactivó una función de su chatbot después de que indagara en la vida de las hijas de una usuaria

El asistente de inteligencia artificial que Meta tiene integrado en Facebook e Instagram se metió en un terreno que la compañía no esperaba: la vida privada de una familia. Todo empezó con un video casero, de esos que millones de personas suben cada día a las redes: una mujer cantando dentro del auto junto a su hijo. Debajo de esa publicación, el chatbot de la empresa propuso automáticamente una pregunta que, traducida al castellano llano, apuntaba directo a la identidad del nene que viajaba como pasajero.

Al aceptar esa sugerencia, la mujer se encontró con algo que no había pedido: el sistema empezó a ofrecer datos sobre sus hijas, incluida la edad y el lugar donde vive la familia. Y hubo algo aún más delicado. Según su relato, la herramienta le devolvió fotografías de las chicas que habían sido publicadas en la plataforma, entre ellas una que ella aseguraba haber eliminado años atrás. La IA, entonces, no se había limitado a leer lo nuevo: había cruzado publicaciones propias con las de otros parientes para armar una respuesta que nadie le había solicitado.

Qué dijo Meta y qué cambió

La vocera de la compañía, Dina El-Kassaby, salió a hacerse cargo del episodio con una frase corta y sin rodeos: “nos equivocamos”, dijo, y agregó que la función “nunca debería haber sugerido ese tipo de preguntas al usuario”. Desde Meta aclararon un punto clave para entender la diferencia entre privacidad y funcionamiento: el asistente no accede a contenido privado al que la persona que pregunta no pueda ver. Es decir, no se coló en un álbum cerrado; simplemente juntó pistas que estaban al alcance de cualquiera en el perfil público y las usó para producir una sugerencia.

La empresa sostuvo que el problema no fue el acceso a datos prohibidos sino la manera en que la IA interpretó y relacionó lo que ya estaba visible. La función había sido pensada como una ayuda para entender mejor lo que el usuario está mirando, por ejemplo, identificar un monumento en una foto o explicar el contexto de un posteo. El error fue aplicar esa misma lógica sobre datos familiares sin los filtros necesarios.

Cómo funciona un asistente que “sugiere” preguntas

Para graficarlo con una comparación doméstica, hay que pensar en el chatbot como un ayudante de cocina que mira la heladera abierta: no entra a la fuerza, pero aprovecha todo lo que encuentra a mano. Cuando alguien abre una publicación, el sistema analiza el texto, las imágenes y los comentarios, y propone preguntas relacionadas. La idea es que el usuario pueda preguntar cosas como “quién es el cantante de esta foto” o “de qué país es este plato”, y obtener una respuesta sin salir de la red social.

El problema surge cuando ese ayudante, en lugar de quedarse en lo general, empieza a cruzar datos personales de distintas publicaciones para armar una respuesta sobre la familia del usuario. Es como si, a partir de una foto en la cocina, el asistente abriera el cajón de los documentos y armara un perfil completo de la familia. La información estaba ahí, sí, pero nadie le había pedido que la juntara.

• Detección de la falla: la compañía reconoció públicamente el error y prometió cambios.

Modificación del sistema: Meta asegura que ya corrigió el comportamiento que generaba ese tipo de preguntas.

Trabajo en curso: el objetivo es que las sugerencias sigan siendo útiles para explorar publicaciones, pero sin meterse en la vida privada ni en el entorno familiar.

No es un caso aislado

Este episodio se suma a otros tropiezos recientes de Meta con sus herramientas de inteligencia artificial. En julio pasado, la empresa retiró una función que permitía generar imágenes falsas de otros usuarios de Instagram, después de recibir críticas similares a las que ahora aparecieron con el chatbot. La coincidencia muestra un patrón: la compañía lanza funciones de IA a gran velocidad y después debe retroceder cuando el resultado cruza límites que los propios usuarios no esperan.

El caso reaviva una discusión que cada vez se vuelve más urgente: hasta dónde puede llegar un asistente de inteligencia artificial cuando procesa información personal, incluso si esa información es pública. Para los especialistas, el desafío no es solo técnico, sino también cultural: las redes acumularon durante años fotos, videos y datos de familias enteras, y ahora la IA tiene la capacidad de conectarlos con una facilidad que antes no existía.

Qué falta para que la IA deje de meterse donde no la llaman

Aunque Meta dice haber corregido el problema, todavía hay varios pasos pendientes para que situaciones como esta dejen de repetirse. Falta que el sistema aprenda a distinguir entre lo que es útil preguntar y lo que invade la intimidad de una familia, algo que hoy no resuelve con certeza. Falta también que la empresa sea más transparente sobre qué datos utiliza el asistente para armar cada sugerencia, y que el usuario pueda ver y limitar ese uso.

Y falta, sobre todo, un marco regulatorio más claro. Mientras la tecnología avanza a velocidad de vértigo, las reglas sobre qué puede y qué no puede hacer una IA con datos personales todavía se están escribiendo. El episodio de Meta es apenas un recordatorio de que, cuando se cruzan redes sociales, información pública e inteligencia artificial, la frontera entre lo útil y lo invasivo puede ser mucho más fina de lo que parece.