Inteligencias artificiales sin control
Taylor Swift fue víctima de una serie de imágenes porno generadas por IA
Los deepfakes explícitos sobre la artista fueron la tendencia del día en las redes ayer y algunas de estas publicaciones han alcanzado hasta 45 millones de visitas
Taylor Swift volvió a ser viral en las redes pero no por su música o un nuevo romance. Sino por imágenes pornográficas que la tienen como protagonista. Pero no todo lo que vemos en internet es real, estas imágenes son generadas por Inteligencia Artificial. Las IA además de ser un terror para profesores que quieren que sus alumnos aprendan, son un terror para las celebridades. La cantante evalúa denunciar estos deepfakes.
Las fotos fueron eliminadas rápidamente de las redes pero muchos lograron verlas. Retrataban a Swift teniendo relaciones con lo que aludía ser el equipo de fútbol americano de su novio, Travis Kelce, los Kansas City Chiefs.
Uno de estos contenidos pornográficos acumuló más de 45 millones de visualizaciones y miles de interacciones, y solo fue después de 17 horas que la cuenta del usuario que lo publicó fue suspendida por infringir las políticas de la red social de Elon Musk.
Cómo y cuando se generaron estos contenidos
Según un informe del portal 404 Media, las imágenes pueden haberse originado en un grupo de Telegram, donde los usuarios comparten imágenes explícitas de mujeres generadas por IA, a menudo hechas con Microsoft Designer.
Y aunque se están eliminado estos contenidos, muchos todavía permanecen activos y se volvieron a publicar en otras cuentas, lo que ha significado una avalancha de nuevas falsificaciones gráficas.
El investigador Alex Kaplan de la organización Media Matters for America, confirma que las imágenes han estado circulando en 4chan durante meses. Mientras que un representante de Microsoft dijo que la compañía está investigando el problema.
En algunas regiones el término “Taylor Swift AI” se convirtió en un tema de tendencia e hizo que las imágenes llegaran a un público más amplio.
La pornografía deepfake está creciendo diariamente y es cada vez más peligrosa. Estas prácticas obligan a los sitios a cambiar con regularidad sus reglas de uso.
De hecho, X tiene políticas claras que prohíben el alojamiento de imágenes manipuladas o sintéticas y desnudez sin consentimiento, pero la proliferación de estas han puesto en duda su eficacia.
“Protect Taylor Swift” y una posible demanda a X
Al no haber un ente que regule estos hechos, el ejercito de seguidores de Taylor Swift comenzaron a promover la frase “Protect Taylor Swift” para contrarrestar los contenidos falsos y así que sean más difíciles de encontrar. Más allá de estos esfuerzos, las imágenes siguen generandose pero se viralizan menos.
“El círculo de familiares y amigos de Taylor está furioso” afirmó una persona allegada a la artista al portal Daily Mail. Swift y su grupo están considerando tomar acciones legales contra los responsables por esta violación de su privacidad.
“Se está decidiendo si se tomarán acciones legales, pero hay una cosa que está clara: Estas imágenes falsas generadas por IA son abusivas, ofensivas, explotadoras y se realizan sin el consentimiento y/o la autorización de Taylor”.
Y aunque se destacó que la cuenta de X que las publicó ya no existe, “es impactante que la plataforma de redes sociales incluso les haya permitido subirlas para empezar”. “Estas imágenes deben eliminarse de todos los lugares donde existan y nadie debe promocionarlas”.
La falta de legislación genera más problemas
El incremento de videos deepfake genera preocupación tras registrarse más de 143,000 publicaciones de estas piezas en el año 2023, según un análisis de Genevieve Oh, resaltando que en Estados Unidos no existe una regulación federal que aborde específicamente la problemática.
Aunque en ciertos estados, se han adoptado medidas legales con el objetivo de combatir la proliferación de estos contenidos y reducir su impacto negativo.
Por ejemplo, California prohíbe la creación y distribución de deepfakes sexuales sin consentimiento y restringe también la circulación de imágenes falsas que involucren a candidatos políticos en periodos electorales próximos.
Nueva York y Virginia han establecido sanciones económicas y penales para los responsables de compartir imágenes deepfake sin autorización, mientras que Texas castiga la producción y distribución de esta naturaleza de contenidos.
