Meta reconoce un fallo en su asistente de IA que expuso datos familiares de una usuaria a partir de publicaciones públicas

El caso tomó estado público después de que una usuaria de Instagram relatara que el asistente de inteligencia artificial de Meta, integrado en Facebook e Instagram, comenzó a formularle preguntas personales sobre sus hijas a partir de un video casero en el que aparecía cantando con uno de sus hijos dentro de un automóvil. Según el relato de la mujer, la herramienta no solo ofreció información sobre la edad de las niñas y el lugar de residencia de la familia, sino que también le exhibió fotografías de las menores que, según su propio testimonio, había eliminado de la plataforma años atrás.

Dina El-Kassaby, portavoz de Meta, reconoció que la empresa se equivocó y que la función nunca debería haber sugerido ese tipo de preguntas al usuario. La vocera aclaró, no obstante, que el sistema no accede a contenido privado al que el usuario consultante no tenga permiso, ya que el asistente opera exclusivamente sobre información que esa persona ya puede ver dentro de la plataforma.

El mecanismo del error

De acuerdo con la explicación brindada por la compañía, el problema no radicó en el acceso a datos prohibidos sino en la manera en que la inteligencia artificial interpretó y vinculó información de carácter público para construir sugerencias que terminaron resultando invasivas. La función fue concebida como una herramienta de asistencia para que los usuarios pudieran obtener mayor contexto sobre las publicaciones que estaban visualizando; el fallo consistió en que el sistema aplicó esa lógica sobre datos personales y familiares sin aplicar los filtros adecuados, cruzando publicaciones propias con las de otros miembros del entorno familiar.

“Se equivocó, y la función nunca debería haber sugerido ese tipo de preguntas al usuario.”Dina El-Kassaby, portavoz de Meta

Antecedentes y debate de fondo

El episodio no constituye un hecho aislado dentro de la trayectoria reciente de Meta en materia de inteligencia artificial. En julio pasado, la empresa debió retirar una función que permitía generar imágenes falsas de otros usuarios de Instagram tras recibir críticas de entidad similar, lo que evidencia una secuencia de cuestionamientos vinculados al tratamiento automatizado de información personal.

• Reconocimiento explícito del error por parte de la compañía a través de su vocera Dina El-Kassaby.
• Corrección del comportamiento que habilitaba la generación de preguntas invasivas sobre la vida familiar.
• Compromiso de mantener la utilidad de la herramienta para explorar publicaciones sin derivar en interrogantes sobre el entorno privado de los usuarios.
• Reapertura del debate sobre los límites que deben observar los asistentes de inteligencia artificial cuando procesan datos personales, aun cuando se trate de información accesible dentro de la plataforma.