Investigación judicial por denuncias de imágenes de estudiantes de colegios bajo IA “desnudas

Inicio de una situación alarmante

El sábado 27 de junio fue el detonante: múltiples estudiantes comenzaron a compartir historias que expresaban su indignación sobre un suceso alarmante. Una estudiante del Colegio Nacional de Buenos Aires (CNBA) relató a Clarín cómo los propios alumnos descubrieron un grupo de WhatsApp en el que varios chicos de distintas escuelas, en especial dos secundarias de la UBA, la Escuela Superior de Comercio “Carlos Pellegrini” (ESCCP) y el CNBA, compartían para vender imágenes y videos manipulados mediante inteligencia artificial, mostrando a las alumnas en situaciones de vulnerabilidad sexual, digitalmente despojadas de su ropa.

Investigaciones en curso

Este miércoles por la noche, el Ministerio Público Fiscal de la Ciudad de Buenos Aires, comenzó dos indagaciones, derivadas de procedimientos de oficio de la Unidad Fiscal Especializada en Delitos y Contravenciones Informáticas (UFEDyCI), bajo la dirección de Daniela Dupuy.

Fuentes no oficiales sugieren la implicación de estudiantes de la Escuela Normal Nº1 en Lenguas Vivas “Presidente Roque Sáenz Peña”, pero Clarín no pudo verificar esta información de manera concluyente al momento de redactar esta nota.

Preocupaciones sobre la reacción institucional

Las familias de las escuelas involucradas expresaron su inquietud acerca de la prontitud y seriedad con la que actuaron las autoridades escolares. Familias de la ESCCP manifestaron su descontento el martes, alegando que la escuela no había tomado medidas formales ni ofrecido Educación Sexual Integral (ESI), destacando la existencia de un problema con los “tiempos”.

Se creía que la escuela no había formalizado una denuncia. Sin embargo, Ana Barral, rectora del Pellegrini, desmintió tal afirmación, aclarando a Clarín que la denuncia fue presentada a la Justicia el jueves 8 de julio, más de una semana después de que estallara el escándalo.

Se rumorea que una de las investigaciones se centra en la difusión de imágenes íntimas modificadas que, según se dice, fueron tomadas inicialmente de los perfiles en redes sociales de las víctimas. La otra indagación examina presuntas amenazas entre compañeros, sobre las que se habrían creado “listas negras” de responsables potenciales.

Este caso tiene un desafío particular para la primera investigación: la alteración de fotos mediante inteligencia artificial para desnudar virtualmente a las menores y adolescentes tenía como objetivo lucrar con la venta de ese material, lo cual toca un vacío en la normativa legal.

Además del problema jurídico (¿empeora la situación legal el hecho de que, además de violar la privacidad de las adolescentes, se buscara obtener ingresos económicos de esas imágenes?), surge un gran problema social: (1) menores utilizando IA para difundir información engañosa; (2) violando la intimidad de otras menores con un sesgo de género; lo que (3) fomenta la actividad bajo la promesa de obtener “dinero fácil”, reflejo preocupante de ciertos aspectos de la sociedad argentina actual.

En relación con el CNBA, Gustavo Romero, el vicerrector, confirmó que no presentaron denuncias ya que no recibieron quejas internas. Sin embargo, la problemática ha resonado por la posible implicación de miembros de ese colegio en el polémico grupo de WhatsApp.

Tanto el Pellegrini como el CNBA, implementaron los protocolos de violencia digital y de género exigidos a las secundarios de la UBA. Además, una comunicación formal fue enviada a los padres, informando sobre la situación y las medidas tomadas.

Un estudiante comentó a Clarín sobre el ambiente tenso en las escuelas: “Había un ambiente muy hostil y estaban muy enojados con los presuntos responsables, aunque claramente la violencia no es la solución. En el impulso del momento, es posible reaccionar mal, pero eso podría crear más víctimas”.

La rectora de la ESCCP compartió una publicación donde se detallan las acciones tomadas por el colegio. Estas se dividen en cuatro puntos principales: “acciones de contención y abordaje legal​”, proporcionando información clave para apoyar las denuncias y asegurar la intervención del Consejo de los Derechos de Niñas, Niños y Adolescentes de CABA.

Además, se subrayó el fortalecimiento del equipo docente, medidas disciplinarias y nuevas normativas para mejorar la convivencia escolar, lo que incluyó espacios de diálogo con estudiantes y sus familias.

Por último, se solicitó a las familias un “compromiso y canalización institucional” para comunicar a través de los canales oficiales cualquier situación que requiera de intervención; una “responsabilidad digital” para evitar la propagación de contenidos relacionados; y un “control parental activo” para monitorear los dispositivos y entornos digitales donde participan sus hijos, esencial para protegerlos del mal uso de sus imágenes en entornos controlados por adultos.

Esta web utiliza cookies propias y de terceros para su correcto funcionamiento y para fines analíticos y para mostrarte publicidad relacionada con sus preferencias en base a un perfil elaborado a partir de tus hábitos de navegación. Contiene enlaces a sitios web de terceros con políticas de privacidad ajenas que podrás aceptar o no cuando accedas a ellos. Al hacer clic en el botón Aceptar, acepta el uso de estas tecnologías y el procesamiento de tus datos para estos propósitos. Más información
Privacidad