La mujer manifestó su temor ante lo ocurrido. La IA pudo recopilar nombres, edades y actividades de las dos nenas.
Una función de Meta AI volvió a poner sobre el tapete un tema que ya se viene hablando bastante en el mundo, acerca del acceso a la información confidencial de los usuarios y los peligros que puede ocasionar. Ahora, una mujer denunció que una inteligencia artificial reunió nombres, fechas de nacimiento, fotos y otros datos de sus dos hijas.
Todo comenzó con un video en el que aparecía cantando en el auto junto con una de las nenas. La publicación no mencionaba quién era la chica. Pero debajo del contenido apareció una pregunta sugerida por la propia inteligencia artificial: “¿Quién es la niña que viaja en el vehículo?”.
Kalie Robins, una creadora de contenido de Utah, Estados Unidos, decidió ingresar para comprobar qué podía responder el sistema.
La IA no solo identificó a la menor, sino que también armó un perfil de su hermana y recuperó información dispersa en publicaciones realizadas durante varios años y que nunca había sido facilitada por la mujer.
Según un informe de Futurism, Kalie Robins comenzó a sentir incomodidad comenzó cuando la inteligencia artificial de Meta comenzó a preguntar información de las pequeñas, como sus nombres, fechas de nacimiento y dónde vivían. Además, la IA recuperó una foto que, según Robins, ella había eliminado hace muchos años.
El asistente mostró los nombres de las chicas, sus edades y datos relacionados con sus nacimientos. Parte de la información provenía de antiguos posteos familiares, entre ellos saludos de cumpleaños y anuncios compartidos por sus abuelos.
Por otro lado, apareció una fotografía de una de las nenas cuando era recién nacida. Robins afirmó que otra imagen recuperada por el sistema había sido eliminada de su cuenta mucho tiempo atrás. “Borré esa foto hace años”, aseguró.
La situación se volvió más inquietante cuando Meta AI comenzó a proponer nuevas consultas sobre las niñas. Entre ellas aparecieron preguntas sobre sus edades, sus libros preferidos, las playas que frecuentaban y los senderos por los que solían caminar.
Otra sugerencia invitaba a consultar dónde residía la familia. La herramienta rastreó publicaciones anteriores e intentó establecer su ubicación mediante referencias compartidas por la mujer y sus allegados.
En su reclamo, Robins dijo: “¿Por qué hace una pregunta así, sobre una menor?”. L
Las cuentas de Robins eran públicas porque buscaba desarrollar su actividad como creadora de viajes, aunque apenas tenía unos cientos de seguidores. Los nombres de sus hijas no aparecían en los perfiles actuales, pero sí podían reconstruirse con publicaciones hechas por familiares.
No existen pruebas de que la inteligencia artificial ingresara a mensajes privados o vulnerara la contraseña de la mujer. Meta explicó que la herramienta puede revisar el contenido al que el usuario ya tiene acceso y combinarlo con información pública disponible en Internet.
El problema fue la velocidad con la que reunió datos que hasta entonces permanecían separados. Una fotografía, un saludo de cumpleaños y una referencia geográfica podían parecer publicaciones aisladas. La IA las convirtió en pocos segundos en un perfil detallado de las dos menores.
La empresa reconoció que la función “se equivocó” al recomendar preguntas relacionadas con la identidad y la ubicación de las menores. También aseguró que la sugerencia nunca tendría que haber aparecido debajo del video.
“Creamos esta función para ayudar a las personas a obtener más información sobre temas o publicaciones que les interesan”, señalaron desde la compañía. Según su explicación, las respuestas se construyen solo con datos que la persona ya puede consultar.
Meta informó que corrigió el problema, aunque no detalló qué cambios técnicos realizó ni qué límites aplicará cuando las búsquedas involucren información sobre niños.