La difusión de casos en colegios secundarios reabrió el debate sobre las herramientas que permiten desnudar o sexualizar imágenes de personas reales y sus consecuencias legales y sociales.
La creación de imágenes falsas de mujeres mediante Inteligencia Artificial (IA) volvió a generar preocupación en las últimas semanas a partir de una serie de casos en colegios secundarios. Especialistas en tecnología, derecho y sociología plantearon la necesidad de responsabilizar a las empresas que habilitan estas funciones y de establecer multas y otras consecuencias por la falta de controles.
La especialista en IA aplicada a la vida real y los negocios Sabrina Logullo sostuvo que la posibilidad de generar este tipo de contenido no responde simplemente a una omisión. Recordó que antes era posible alterar imágenes con Photoshop, aunque se necesitaban conocimientos técnicos y más tiempo, mientras que actualmente la IA permite hacerlo en segundos. También señaló que existen modelos entrenados para rechazar contenidos vinculados con la vulneración de menores o con material sexual no consentido, como ChatGPT y Gemini.
Logullo advirtió que hay aplicaciones que promueven la producción de estas imágenes porque existe un mercado dispuesto a consumirlas. A su vez, cuestionó la competencia entre empresas por desarrollar modelos cada vez más realistas sin una evaluación equivalente de sus consecuencias. En ese marco, reclamó multas, sanciones y responsabilidades para quienes comercializan o habilitan productos sin controles.
El doctor en Computación Nicolás D’Ippólito explicó que es necesario distinguir entre el modelo de IA y el producto que lo utiliza: mientras el primero puede generar casi cualquier cosa, el segundo define qué filtros aplica. Como ejemplo, mencionó que Grok permitió sexualizar fotos de personas reales y restringió esa función en enero de este año, después de la polémica por su uso en redes sociales. También afirmó que filtrar contenido tiene un costo económico y mencionó que OpenAI contrató trabajadores en Kenia por menos de u$s2 la hora para etiquetar material destinado al entrenamiento de esos filtros.
La abogada Florencia Zerdá, especialista en Cibercrimen y Evidencia Digital, recomendó a las víctimas buscar asesoramiento psicológico y legal especializado y conservar toda la evidencia. Si las imágenes aparecen en un sitio o conversación, aconsejó guardar los links, no borrar el contenido y evitar denunciarlo inicialmente en la plataforma para permitir una eventual descarga judicial. Cuando la víctima es menor de edad, la figura 128 del Código Penal sanciona la distribución, creación y comercialización de este tipo de material. Zerdá aclaró que, aunque esa norma no fue creada para estas representaciones, algunas jurisdicciones podrían avanzar con imputaciones por lesiones psicológicas si una pericia comprueba daños. Hasta el momento, indicó, no se registraron condenas por estos hechos.
La socióloga de Fundar Agustina Bendersky consideró que la IA hizo que la violencia de género fuera más rápida, accesible y masiva. Según planteó, el problema no está únicamente en la sofisticación del algoritmo, sino en la práctica que permite la exposición y vulneración de la intimidad. Para la especialista, la tecnología, la escala y las billeteras virtuales son elementos nuevos de un fenómeno atravesado por una cultura machista que presenta el cuerpo de las compañeras como un territorio disponible para someter, consumir y lucrar. Bendersky llamó a que la sociedad y las instituciones educativas impulsen políticas públicas capaces de disputar el sentido de estos usos.