Una inteligencia artificial identificó erróneamente a una activista chubutense en España y desató graves amenazas
Una grave situación de violencia y acoso digital vivió la activista y politóloga argentina Flavia Broffoni, luego de ser identificada erróneamente por un sistema de inteligencia artificial. La herramienta la señaló como la protagonista de un video grabado en Ceuta, España, en el que supuestamente una joven colaboraba con inmigrantes marroquíes. A raíz de este fallo y de la posterior viralización de las imágenes en redes sociales y grupos de mensajería, la politóloga comenzó a recibir múltiples mensajes con agresiones y duras amenazas de muerte.
El incidente se originó cuando se difundió en WhatsApp la filmación de una mujer durante un contexto de tensión migratoria en la ciudad norteafricana. Un usuario tomó una captura del rostro de la joven y consultó a una herramienta del buscador de Google, la cual devolvió erróneamente el nombre, apellido y perfil profesional de la activista argentina. Esta respuesta falsa se difundió con rapidez en cuentas de gran alcance, desatando una oleada de mensajes que incitaban a agredirla físicamente y atentar contra su vida.
La distancia como factor decisivo de protección
Al momento de los hechos, Broffoni se encontraba en la localidad de Epuyén, provincia de Chubut, a más de 10.000 kilómetros de Ceuta. Su abogada especialista en derecho informático, Marina Benítez Demtschenko, enfatizó que la distancia geográfica fue lo único que evitó que la vida de la politóloga corriera un peligro inminente en el lugar de las imágenes. Más tarde, una usuaria desmintió la veracidad del dato en la publicación original, logrando que retiraran la vinculación directa con el nombre de la argentina.
Especialistas en tecnología consultados tras el suceso constataron que, aunque estas herramientas no deberían asignar identidades individuales a partir de fotografías, en la práctica el sistema puede llegar a entregar nombres y perfiles. Esta falla técnica, combinada con la posterior viralización de capturas fuera de contexto, potencia el alcance de noticias falsas y expone de manera directa a personas inocentes a situaciones de extrema vulnerabilidad y violencia en línea.
La postura oficial de Google y el debate legal
Ante las consultas sobre el episodio, la empresa Google aclaró que no le resulta posible validar ni opinar sobre capturas de pantalla de chats sin poseer un enlace directo que permita verificar técnicamente la búsqueda. La compañía precisó que las imágenes correspondían a funciones de inteligencia artificial del propio buscador y no al modelo Gemini, e instó a los usuarios a utilizar los canales de asistencia oficiales para reportar cualquier resultado inexacto que devuelva la plataforma.
Finalmente, el caso puso en evidencia la necesidad de debatir el marco normativo actual sobre tecnologías emergentes. La defensa de Broffoni remarcó que la Ley de Protección de Datos Personales en Argentina, promulgada en el año 2000, no contempla el impacto de estas herramientas. Frente a este escenario, se planteó la urgencia de discutir en el ámbito legislativo la responsabilidad que les cabe a las plataformas digitales e intermediarios cuando un error algorítmico genera riesgos reales para la integridad de las personas.
