El caso de la Escuela Modelo de Lomas expuso los riesgos del porno deepfake, una forma de violencia digital que utiliza inteligencia artificial para crear imágenes sexuales falsas
El caso de la Escuela Modelo de Lomas generó preocupación por la difusión de imágenes íntimas falsas creadas con inteligencia artificial. Cuatro alumnos de 15 años habrían obtenido fotografías de al menos 45 estudiantes de entre 12 y 16 años, las modificaron digitalmente para generar contenido sexual y luego lo comercializaron. Dos de los menores involucrados ya fueron imputados en la causa.
El episodio vuelve a poner en agenda la violencia digital y los riesgos del uso de inteligencia artificial para manipular imágenes sin consentimiento. Esta práctica se conoce como porno deepfake y puede provocar graves consecuencias para las víctimas, incluso cuando las imágenes no representan situaciones reales.
Frente a este tipo de situaciones, especialistas y organismos de asistencia recomiendan pedir ayuda cuanto antes, conservar las pruebas y evitar que el material siga circulando.
Qué es el porno deepfake y por qué es violencia digital
El porno deepfake consiste en utilizar herramientas de inteligencia artificial para crear o alterar imágenes y videos con contenido sexual, utilizando el rostro o la apariencia de una persona sin su consentimiento.
En el caso de la Escuela Modelo de Lomas, la denuncia apunta a la manipulación de fotografías de alumnas para producir material sexual falso y comercializarlo. La situación afecta especialmente a niñas y adolescentes, que pueden sufrir hostigamiento, exposición, amenazas y daños emocionales.
La creación y difusión de estas imágenes no es una broma ni un simple conflicto entre compañeros. Puede constituir una forma de violencia digital y dar lugar a consecuencias legales, según las circunstancias y las conductas investigadas. Por eso, ante la aparición de este tipo de contenido, es fundamental intervenir y evitar que las imágenes continúen circulando.
Qué hacer si difundieron imágenes tuyas con inteligencia artificial
Si sos víctima de porno deepfake o conocés a alguien que está atravesando una situación similar, hay medidas que pueden ayudar a proteger a la persona afectada y facilitar una denuncia.
- No borres las pruebas: conservá los mensajes, enlaces, nombres de usuario y otros datos que permitan documentar lo ocurrido. Evitá descargar o reproducir material sexual que involucre a menores.
- No compartas las imágenes: reenviar el contenido aumenta la exposición y el daño a las víctimas.
- Pedí ayuda a una persona de confianza: si la víctima es menor de edad, es importante que pueda acudir a un adulto que la escuche y acompañe sin juzgarla.
- Realizá la denuncia: cuanto antes se informe lo sucedido, más rápido podrán evaluarse medidas para investigar, frenar la circulación del material y proteger a las personas afectadas.
- Solicitá la intervención de las plataformas: las publicaciones pueden reportarse para pedir su revisión y eliminación.
La responsabilidad nunca recae sobre quien aparece en las imágenes. La prioridad debe ser proteger a la víctima, evitar su revictimización y garantizar que reciba acompañamiento.
Línea 144 y Línea 102: dónde pedir ayuda
En Argentina existen canales gratuitos de orientación y asistencia para quienes atraviesan situaciones de violencia o necesitan proteger a niñas, niños y adolescentes.
Línea 144: brinda atención, contención y asesoramiento a personas en situación de violencia por motivos de género. Es gratuita y funciona las 24 horas. No es una línea de emergencias.
Línea 102: es un servicio gratuito y confidencial de escucha, orientación y acompañamiento para niñas, niños y adolescentes cuyos derechos están siendo vulnerados. Tampoco es una línea de emergencias.
Ante una situación de peligro inmediato, corresponde llamar al 911.
El caso de la Escuela Modelo de Lomas deja una advertencia sobre el uso de la inteligencia artificial para vulnerar la intimidad de otras personas. Informarse, denunciar y acompañar a quienes sufren violencia digital son pasos fundamentales para frenar estas prácticas y evitar que el daño se multiplique.
