El deepfake de pornografía no consensual de Taylor Swift se volvió viral en X esta semana, con una publicación que obtuvo más de 45 millones de vistas, 24,000 reposts y cientos de miles de me gusta antes de ser eliminada. La estrella del pop tiene una de las bases de fans más dedicadas, extremadamente activas en línea y masivas en el mundo. Ahora, los Swifties van tras la sangre.
Cuando los mega-fandoms se organizan, son capaces de lograr cosas inmensas, como cuando los fans de K-pop reservaron cientos de boletos para un mitin de Donald Trump en un intento de reducir el número de asistentes. A medida que se acerca la elección presidencial de EE. UU. de 2024, algunos expertos incluso teorizan sobre el poder de los Swifties como bloque de votantes.
Pero hoy no es el Día de las Elecciones, y los Swifties están enfocados en algo más inmediato: hacer que los deepfakes no consensuales del músico sean lo más difíciles de encontrar posible. Ahora, cuando buscas términos como «taylor swift ai» o «taylor swift deepfake» en X, encontrarás miles de publicaciones de fans tratando de enterrar el contenido generado por IA. En X, la frase «PROTEGER A TAYLOR SWIFT» ha estado en tendencia con más de 36,000 publicaciones.
A veces, estas campañas impulsadas por los fandoms pueden cruzar una línea. Mientras algunos fanáticos están alentando a otros a buscar la identidad de los usuarios de X que circularon los deepfakes, otros se preocupan por combatir el acoso con más acoso, especialmente cuando el presunto perpetrador tiene un nombre relativamente común y, en algunos casos, los Swifties podrían estar yendo tras la persona equivocada. Con tantos miles de fanáticos participando en la causa, es inevitable que no todos los Swifties estén en el mismo frente unificado, y algunos están más en sintonía con la era «Reputation» que otros.
Techcrunch event
Aprovecha ahora hasta el 4 de junio para TechCrunch Sessions: IA
Ahorra $300 en tu boleto para la TC Sessions: IA, y obtén un 50% de descuento en un segundo. Escucha a líderes de OpenAI, Anthropic, Khosla Ventures y más durante un día completo de ideas expertas, talleres prácticos y una red de alto impacto. Estas ofertas bajas desaparecerán cuando se abran las puertas el 5 de junio.
Exhibe en TechCrunch Sessions: IA
Asegura tu lugar en TC Sessions: IA y muestra a más de 1,200 tomadores de decisiones lo que has construido, sin gastar mucho. Disponible hasta el 9 de mayo o hasta agotar existencias.
Berkeley, CA | 5 de junio
REGÍSTRATE AHORA
Con el aumento de las herramientas generativas de IA accesibles, esta táctica de acoso se ha vuelto tan común que el año pasado, el FBI y organismos internacionales emitieron un comunicado conjunto sobre la amenaza de la sextorsión. Según una investigación de la firma de ciberseguridad Deeptrace, aproximadamente el 96% de los deepfakes son pornográficos y casi siempre presentan a mujeres.
«La pornografía deepfake es un fenómeno que ataca y daña exclusivamente a las mujeres», dice el informe. Este abuso incluso se ha filtrado en las escuelas, donde las niñas menores de edad han sido objeto de deepfakes explícitos y no consensuales creados por sus compañeros de clase. Por lo tanto, para algunos fanáticos de Taylor Swift, esto no es solo una cuestión de proteger a la estrella. Se dan cuenta de que estos ataques pueden sucederles a cualquiera de ellos, no solo a celebridades, y que tienen que luchar para establecer el precedente de que este comportamiento es intolerable.
«Ella está tomando el golpe por todos nosotros en este momento», dijo una usuaria de TikTok llamada LeAnn en un video instando a los usuarios a defender a Swift. «Al protegerla, te estarás protegiendo a ti mismo y a tus hijas». Según 404 Media, las imágenes se originaron en un chat de Telegram dedicado a crear imágenes explícitas no consensuales de mujeres utilizando IA generativa. El grupo dirige a sus usuarios para generar deepfakes de IA en el Diseñador de Microsoft; aunque este tipo de contenido viola la política de Microsoft, su IA aún puede crearlo y los usuarios han creado soluciones simples para evitar las herramientas básicas de seguridad. Microsoft y X no respondieron a una solicitud de comentarios antes de la publicación.
El Congreso está avanzando legislativamente para criminalizar los deepfakes no consensuales. Virginia ha prohibido la pornografía de venganza deepfake, y la Representante Yvette Clarke (D-NY) reintrodujo recientemente la Ley de Responsabilidad DEEPFAKES, que propuso por primera vez en 2019. Si bien los críticos se preocupan por la dificultad de legislar los rincones oscuros de la web, algunos dicen que el proyecto de ley al menos podría establecer cierto precedente legal de protección contra este abuso. Los fanáticos de Swift también llamaron la atención sobre los fracasos de Ticketmaster, la megaempresa de entretenimiento que también es propietaria de Live Nation. En una declaración particularmente memorable, la presidenta de la FTC, Lina Khan, dijo el año pasado que la experiencia desastrosa para comprar boletos para la gira de Eras de Swift «terminó convirtiendo a más gen Z-ers en antimonopolistas de la noche a la mañana que cualquier cosa que yo pudiera haber hecho».
Esta campaña de abuso es emblemática de los problemas con el rápido ascenso de la IA: las empresas están construyendo demasiado rápido para evaluar adecuadamente los riesgos de los productos que están lanzando. Entonces, tal vez los fans de Taylor Swift asuman la lucha por una regulación cuidadosa de los productos de IA en rápido desarrollo, pero si se necesita una campaña masiva de acoso contra una celebridad para que los modelos de IA no probados enfrenten algún tipo de escrutinio, entonces eso es un problema completamente diferente.
