Confusión por Identificación Errónea
Un día, Flavia Broffoni recibió un correo que la dejó perpleja: “¿Dónde estás? ¿Estás en Ceuta?”. Una desconocida desde esa ciudad española le advertía sobre un posible peligro, aunque Flavia jamás había estado allí. “No podía comprender la situación, nunca he visitado Ceuta y llevo más de una década sin viajar a España”, comenta la activista argentina al diario Clarín.
Impacto de la IA en la vida de Flavia
Un video compartido en grupos de WhatsApp mostraba a una chica de cabello corto con atuendo oscuro, que según decían, estaba usando gas pimienta contra inmigrantes marroquíes. Al indagar quién era, la inteligencia artificial erróneamente la identificó como Flavia Broffoni, una politóloga y activista argentina.
“Recibí una captura de pantalla que mostraba una búsqueda realizada en la inteligencia artificial de Google, donde salía mi nombre asociado al video en cuestión”, confiesa Broffoni.
La información falsa se propagó rápidamente, provocando una avalancha de comentarios hostiles hacia Broffoni. Algunas de estas reacciones incluían amenazas graves: “Debería aplicarse justicia rápida”, “Te estamos rastreando”, “Al paredón”, “Expulsarla a Marruecos”.
En ese momento, Flavia se encontraba en Chubut, Argentina, lo cual la mantuvo a salvo de surgir en Ceuta. “Al leer los comentarios en el video, eran horribles, incitaban a todo tipo de violencia contra mí”, señala.
Numerosos mensajes llegaron a sus redes, con personas preguntándole si estaba en Ceuta. Eventualmente, alguien aclaró en los comentarios que la mujer del video no era Flavia.
“Al final, retiraron mi nombre, pero perpetuaron la idea de que era una activista argentina, sin tener ninguna verificación de los hechos”, explica Flavia sobre la situación.
Errores de IA: Riesgos y Consecuencias
La confusión causada por la inteligencia artificial genera un debate sobre las implicaciones de identificar erróneamente a individuos. ¿Qué ocurre cuando esa información falsa termina en amenazas reales?
Marina Benítez Demtschenko, experta en Derecho informático y abogada de Flavia, subraya la necesidad de actualizar la ley de protección de datos personales. “Es un caso grave que demuestra riesgos reales, no hipotéticos”, comenta a Clarín, añadiendo que si Flavia hubiera estado en Ceuta, podría haber sido peligrosa.
Flavia sostiene que la gestión de datos personales en modelos de inteligencia artificial no está adecuadamente regulada en la ley actual. La discusión sobre la responsabilidad de servicios de internet fue parte de un proyecto legislativo que finalmente no prosperó.
“La discusión se obstaculiza por el poder de las empresas y la falta de comprensión del público sobre los posibles peligros”, concluye Demtschenko.
MG