Un chatbot que preguntó de más: la IA de Meta vuelve a quedar en el ojo de la tormenta

¿Qué tan dispuesto está uno a que un algoritmo cruce las fotos de los abuelos, las stories de los tíos y un video cualquiera para terminar preguntándole quién es el niño que viaja en el asiento trasero del auto? La pregunta parece exagerada, pero dejó de serlo esta semana, cuando Meta reconoció públicamente que su asistente de inteligencia artificial integrado en Facebook e Instagram se mandó una metida de pata que volvió a poner a la compañía en el centro del debate sobre privacidad y uso de datos.

El episodio que destapó el problema

Todo arrancó con un video publicado en Instagram por una usuaria en el que se la ve cantando junto a su hijo dentro de un auto. Debajo de esa publicación, el chatbot de Meta ofreció de manera automática la pregunta: "¿Quién es el niño pasajero?" Al abrir esa sugerencia, el sistema empezó a devolver información sobre las hijas de la mujer, incluyendo referencias a la edad de las menores y al lugar donde vive la familia.

La usuaria fue más allá en su denuncia: aseguró que la herramienta le exhibió fotografías de sus hijas cargadas previamente en la plataforma, entre ellas una imagen que, según su relato, había eliminado años atrás. De acuerdo con su testimonio, el asistente cruzó datos provenientes de sus propias publicaciones y de cuentas de familiares para construir esas sugerencias.

“Nos equivocamos. La función nunca debería haber sugerido ese tipo de preguntas al usuario.”Dina El-Kassaby, portavoz de Meta

Qué dice Meta y qué dice la lógica

Desde Meta salieron a aclarar que el sistema no accedió a contenido privado al que la propia usuaria no tuviera permiso: el asistente trabaja sobre información que esa persona ya podía ver dentro de la plataforma. El problema, según la compañía, no fue el acceso a datos prohibidos sino la forma en que la IA interpretó y relacionó la información disponible para producir sugerencias que terminaron resultando invasivas.

La función fue pensada para ayudar a los usuarios a obtener más contexto sobre lo que están viendo. El error fue haber aplicado esa misma lógica sobre datos personales y familiares sin los filtros adecuados. La empresa indicó que ya corrigió el comportamiento y que trabaja para que las sugerencias sigan siendo útiles sin derivar hacia preguntas sobre la vida íntima o el entorno cercano de las personas.

• No es la primera vez que Meta queda en el centro de la polémica por sus herramientas de inteligencia artificial.
• En julio pasado la compañía retiró una función que permitía crear imágenes falsas de otros usuarios de Instagram tras recibir críticas similares.
• El nuevo episodio reaviva la discusión sobre los límites que deberían tener los asistentes de IA cuando procesan información personal.
• La discusión ya no pasa por lo que la plataforma guarda, sino por lo que es capaz de deducir a partir de lo que muestra.

El caso tiene una particularidad que lo vuelve incómodo: no se trata de un hackeo, de una filtración ni de un acceso indebido. Es la propia herramienta oficial de la empresa la que, con la información que el usuario ya dejó a la vista, armó una cadena de preguntas que nadie le pidió. Eso cambia el centro de la discusión: ya no alcanza con hablar de privacidad como bloqueo de datos, sino de inteligencia artificial capaz de inferir, vincular y sugerir a partir de datos públicos.

Para dimensionarlo, basta comparar el tamaño de la cuenca de usuarios que maneja Meta en la Argentina con la de cualquier compañía local. Si un error de este tipo ocurriera en un sistema municipal de Río Gallegos, la respuesta sería un comunicado técnico y, como mucho, una reunión con el defensor del pueblo. Cuando el error lo comete una empresa que mueve a más de tres mil millones de personas en el mundo, la cuestión deja de ser técnica y se vuelve política: define qué se entiende por consentimiento, por contexto y por uso razonable de la información.

En el fondo, lo que este episodio deja en evidencia es que la carrera por meter inteligencia artificial en cada rincón de las aplicaciones avanza más rápido que los criterios de protección de datos. La propia Meta tuvo que salir a reconocer el error y a prometer ajustes, algo que no hace más que confirmar que el sistema hoy no tenía los frenos que la situación exigía. El tiempo dirá, pero ya dijo bastante.