Inquietud Creciente por el Uso de IA en Escuelas
Una imagen. Inteligencia artificial. Un simple clic. En un grupo de WhatsApp escolar, comienzan a circular fotos sexuales. Una estudiante descubre que su rostro ha sido superpuesto en un cuerpo desnudo. Este tipo de situaciones cada vez más frecuentes ha generado alarma en las instituciones educativas. “Estamos más preocupados que nunca por la IA en las escuelas”, comenta Martín Zurita, secretario ejecutivo de la Asociación de Institutos de Enseñanza Privada de Argentina (AIEPA). El caso reciente del Colegio Modelo en Lomas de Zamora, donde supuestamente los estudiantes habrían manipulado imágenes de sus compañeras usando IA, ha reavivado la preocupación sobre el empleo inadecuado de esta tecnología y la violencia digital asociada.
Preocupación por la Creación de Imágenes Falsas
Las denuncias en el Modelo de Lomas exponen una inquietud común a todas las escuelas: cómo reaccionar ante una tecnología capaz de producir imágenes sexuales falsas en segundos, transformando una simple foto en un instrumento de humillación. Zurita sostiene que esta situación desafía a las instituciones a reconsiderar cómo guían a los estudiantes en el uso de estas herramientas. “La tecnología progresa más rápido de lo que podemos adaptarnos, obligándonos a revisar constantemente nuestra educación, prevención y apoyo hacia los estudiantes”, explica.
AIEPA señala que este tema es cada vez más frecuente en las reuniones con directivos y representantes legales de todo el país. La entidad proporciona apoyo a través de capacitaciones mientras que las pautas y protocolos oficiales sirven de guía para las intervenciones. Sin embargo, Zurita advierte que ninguna medida será suficiente sin una colaboración estrecha entre las escuelas y las familias.
“Gran parte de este comportamiento ocurre fuera de las aulas a través de dispositivos tecnológicos accesibles desde el hogar. Es crucial construir confianza: la transparencia de la escuela y el respaldo familiar son esenciales para mantener la autoridad pedagógica”, comenta.
Medidas a Tomar y Protocolos de Actuación
El protocolo sugerido por AIEPA a sus escuelas asociadas ante estas situaciones implica, como primer paso, notificar a la inspección de la Dirección General de Escuelas y realizar la denuncia ante el Ministerio Público Fiscal, o ampliarla si ya existiese. Además, es crucial proteger a las alumnas e implementar restricciones de contacto. “Las medidas deben focalizarse principalmente en los estudiantes identificados, no en las víctimas”, destaca el protocolo. Y se recomienda establecer procesos de convivencia escolar al margen de los procedimientos penales, involucrando a las familias.
El episodio en el Colegio Modelo de Lomas de Zamora se intensificó cuando un grupo de estudiantes supuestamente usó inteligencia artificial para crear y difundir imágenes sexuales falsas de sus compañeras. Según lo informado por las familias, el contenido estaba organizado como un catálogo, con nombres y fotos de las chicas obtenidas de sus redes sociales, manipuladas para aparentar desnudez. Se estima que entre 30 y 40 alumnas fueron afectadas. El colegio ha decidido que los alumnos identificados cursen de forma virtual, mientras se determinan las sanciones.
La investigación está a cargo del fiscal Mariano Bonilla de la UFI N° 6 del Fuero de Responsabilidad Penal Juvenil en Lomas de Zamora. Cuatro adolescentes han sido identificados y sus dispositivos electrónicos confiscados. Se han solicitado medidas cautelares y restricciones de acercamiento respecto a las víctimas. “Por ahora, no hemos detectado la participación de ningún adulto detrás de estos actos”, indicaron fuentes relacionadas con la investigación.
En Lomas se estima que hay de 30 a 40 estudiantes afectadas por estos incidentes.
Este caso no es único. En Ituzaingó también se reportó un incidente similar, donde una adolescente de 15 años recibió mensajes de desconocidos que la invitaron a salir, tras obtener su contacto de un grupo de Telegram.
Al acceder al enlace proporcionado, encontró un chat que compartía contenido pornográfico. La madre de la menor denunció que un compañero del Colegio Thomas Edison habría descargado fotos de sus redes sociales, las manipuló con inteligencia artificial y las difundió en aquel grupo. Este caso está a cargo de la Fiscalía de Responsabilidad Penal Juvenil N° 2 de Morón, bajo la acusación de presunta retención de imágenes sexuales de menores con intención de distribuirlas o comercializarlas.
En julio, las principales escuelas secundarias de la UBA, como el Carlos Pellegrini y el Nacional de Buenos Aires, también se vieron envueltas en un escándalo cuando estudiantes supuestamente utilizaron IA para manipular fotos de sus compañeras y vendieron las imágenes.
Según reflejan los datos, la preocupación crece. Un reporte de la Defensoría del Pueblo de la Ciudad de Buenos Aires advierte sobre los deep fakes como una nueva forma de violencia digital entre adolescentes. El estudio, realizado entre 912 estudiantes de entre 12 y 19 años, revela que un 1% reportó ser víctima directa, mientras que un 13% tiene conocimiento de casos en su entorno escolar. Asimismo, el 43% afirma haber recibido imágenes o videos alterados mediante inteligencia artificial.
Estos resultados indican que estas situaciones ya forman parte del ambiente escolar. El reto para las instituciones es cómo intervenir y evitar que la creación y difusión de imágenes falsas se transforme en una percepción de “simple broma” entre compañeros.
El Negocio detrás de las Imágenes Falsas
Ana Correa, experta en violencia digital y autora de “Ciberfeminismo. La hora de la acción”, sostiene que el problema va más allá del comportamiento adolescente individual. También hay que prestar atención a las empresas que crean estas herramientas, a las plataformas que las distribuyen y a los servicios que permiten su circulación y monetización.
“Las plataformas tienen una gran responsabilidad”, afirma. Y añade: “La pregunta es: ¿quién está lucrando con la posibilidad de crear imágenes sexuales de mujeres, niñas y adolescentes sin su consentimiento?”.
Correa subraya que no es necesario recurrir a redes ocultas para encontrar este tipo de tecnología. Existen inteligencias artificiales diseñadas explícitamente para simular desnudez y modelos que se ejecutan en computadoras personales. Por ende, menciona que muchas de estas herramientas están disponibles en la web convencional, y algunas incluso en mercados comerciales accesibles.
La responsabilidad, advierte, no termina con las empresas que desarrollan estas herramientas ni con los sitios que publican las imágenes. “También es crucial mirar las tiendas de apps, buscadores, redes sociales y servicios que se benefician de esta circulación. No puede ser que las empresas ganen dinero mientras las víctimas soportan todas las consecuencias”, puntualiza.
Según la experta, el problema debe enfrentarse a lo largo de toda la cadena: desde la creación de herramientas para fabricar imágenes sexuales sin consentimiento hasta su difusión y potencial comercialización. En ese contexto, no es suficiente culpar solo a los jóvenes que producen o comparten el material, sin investigar también los mecanismos que facilitan su acceso y circulación.
Un Problema de Alcance Global
La dimensión de este fenómeno se refleja en investigaciones internacionales. En 2023, un análisis de Security Hero sobre más de 95.000 videos deep fake encontró que el 98% eran de carácter pornográfico o sexualmente explícito, siendo el 99% de estos protagonizados por mujeres.
Por su parte, un estudio del Tech Transparency Project encontró aplicaciones de desnudez artificial que, juntas, sumaban 483 millones de descargas y generaban más de 122 millones de dólares en ingresos estimados.
Para Correa, estas cifras indican que no se trata solo de individuos manipulando fotos, sino de un mercado que obtiene ganancias económicas a través de estas tecnologías.
“La tecnología no creó la violencia contra las mujeres, pero ahora la hace más fácil, barata, rápida y en una escala nunca vista”, concluye.
En el ámbito escolar, el problema es grave porque las imágenes pueden generarse a partir de fotos que las propias estudiantes suelen publicar en sus perfiles. No es necesario que hayan compartido material íntimo ni que hayan estado en una situación sexual: una simple imagen cotidiana puede emplearse para crear una representación falsa y compartirla sin su consentimiento.
La experta enfatiza, además, una desigualdad persistente: aunque las imágenes sean ficticias, las consecuencias recaen sobre personas reales. Las chicas enfrentan vergüenza, angustia, miedo a volver a la escuela y pérdida de privacidad, mientras que la responsabilidad de quienes crearon y difundieron el material podría quedar ignorada.
“Cuando se difunde una imagen sexual falsa de una mujer, usualmente la atención se centra en ella y no en quien la creó, compartió o lucró con ella”, advierte.
El Rol de la Justicia
El avance de estas tecnologías también plantea retos legales. Correa aclara que en Argentina no se carece por completo de leyes al respecto, aunque considera que aún no se responde de manera clara ante todas las formas de violencia que la inteligencia artificial permite.
La Ley Olimpia (27.736), aprobada en 2023, incluyó la violencia digital en la Ley 26.485 de protección integral para prevenir, sancionar y erradicar la violencia contra las mujeres. La norma reconoce diversas formas de violencia usando tecnologías y aborda la difusión no consentida de material íntimo o de desnudez, incluso si ha sido editado. También ofrece herramientas para solicitar medidas judiciales relacionadas con la eliminación de contenidos y la preservación de pruebas.
No obstante, la legislación no contempla todas las conductas relativas a la creación, distribución y comercialización de imágenes sexuales falsas generadas mediante IA. Y cuando hay menores implicados, pueden entrar en juego otras figuras legales, dependiendo de las características del material y los hechos investigados.
Un caso en Córdoba ejemplifica cómo se aborda este dilema. La Cámara de Acusación de la provincia ratificó llevar a juicio a un joven acusado de manipular fotos de compañeras del colegio, colocarlas en cuerpos desnudos y publicar las imágenes en un sitio pornográfico, junto con sus nombres y enlaces a sus perfiles de Instagram.
El tribunal determinó que los hechos podrían clasificarse como lesiones graves calificadas por mediar violencia de género, reconociendo que el daño psicológico puede constituir una lesión penal aun sin existir evidencia física. La resolución también destacó que la difusión de imágenes manipuladas puede ser considerada violencia digital debido a la exposición sexual pública, reiterada y sus efectos psicológicos y sociales.
Esta discusión también ha llegado al Congreso. Más de 300 organizaciones y especialistas de Argentina y Latinoamérica impulsan una campaña nacional para exigir una ley integral de protección infantil y adolescente en entornos digitales.
Bajo el lema “Está hecha la trampa, pero no la ley”, la iniciativa agrupa a entidades de la sociedad civil y expertos en derechos de la niñez, derechos digitales, educación, salud y protección de datos, en colaboración con la Asociación de Defensorías del Pueblo de la República Argentina (ADPRA) y el Ministerio Público Tutelar de la Ciudad de Buenos Aires.
El objetivo es establecer responsabilidades claras para las plataformas, prevenir riesgos, proteger datos personales, transparentar algoritmos y aplicar sanciones ante incumplimientos. También propone controles estatales, educación digital y participación de niños, niñas y adolescentes. La campaña busca que el Congreso avance con la legislación relevante para 2026, antes del final del período ordinario.
Según Correa, la responsabilidad no puede recaer solo en los jóvenes ni en sus familias. También deben involucrarse las empresas que desarrollan estas tecnologías, las plataformas que permiten su circulación, las instituciones educativas y el Estado.