La circulación de imágenes explícitas y pornográficas de la megastar Taylor Swift esta semana ha puesto de manifiesto la capacidad de la inteligencia artificial para crear imágenes falsas, dañinas y convincentemente reales. Aunque el uso de esta tecnología no es nuevo, su acceso cada vez más extendido y su creciente popularidad plantean problemas preocupantes para personas de todas las edades, desde niños en edad escolar hasta adultos.
El Impacto de la IA en la Generación de Imágenes Falsas
Expertos señalan que el acceso a herramientas de inteligencia artificial ha permitido a estudiantes de secundaria en todo el mundo, desde Nueva Jersey hasta España, manipular imágenes de sus compañeros y compartirlas en línea. Además, se ha descubierto que la imagen de una conocida streamer de Twitch fue utilizada en un video pornográfico falso y explícito que se difundió rápidamente en la comunidad de jugadores.
Danielle Citron, profesora de la Facultad de Derecho de la Universidad de Virginia, advierte que no solo las celebridades son víctimas de esta práctica, sino que también afecta a personas comunes como enfermeras, estudiantes de arte y derecho, profesores y periodistas. Incluso se han reportado casos de estudiantes de secundaria y personas en el ámbito militar afectados por esta problemática. En resumen, afecta a todos.
Taylor Swift y la Atención Pública
El hecho de que Taylor Swift haya sido objeto de esta práctica puede llamar la atención sobre los crecientes problemas relacionados con las imágenes generadas por IA. La gran cantidad de seguidores leales de Swift expresaron su indignación en las redes sociales esta semana, situando el tema en primer plano. En 2022, un incidente relacionado con Ticketmaster antes de su concierto Eras Tour desató la ira en línea, lo que llevó a varios esfuerzos legislativos para combatir las políticas de venta de entradas desfavorables para los consumidores.
Según Danielle Citron, este momento es interesante porque Taylor Swift es tan querida y admirada que su experiencia puede generar un mayor interés en la problemática. Es un momento de ajuste de cuentas.
El Impacto de las Imágenes Falsas Generadas por IA
Las imágenes falsas de Taylor Swift se propagaron principalmente en la plataforma de redes sociales X, anteriormente conocida como Twitter. Las fotos, que mostraban a la cantante en posiciones sexualmente sugerentes y explícitas, fueron vistas decenas de millones de veces antes de ser eliminadas de las plataformas sociales. Sin embargo, como nada en Internet desaparece por completo, es probable que sigan siendo compartidas en otros canales menos regulados.
Aunque se han emitido advertencias sobre cómo las imágenes y videos generados por IA pueden ser utilizados para manipular elecciones presidenciales y difundir desinformación, ha habido menos debate público sobre cómo se están manipulando los rostros de mujeres sin su consentimiento en videos y fotografías pornográficas agresivas.
Este preocupante fenómeno es el equivalente en IA a una práctica conocida como "pornografía de venganza". Y lo que lo hace diferente esta vez es que los seguidores leales de Swift se unieron para utilizar las herramientas de denuncia y lograron eliminar las publicaciones. Sin embargo, muchas imágenes manipuladas aún se encuentran publicadas en las redes sociales. Según Ben Decker, director de Memetica, una agencia de investigación digital, las empresas de redes sociales "no tienen planes efectivos para monitorear el contenido".
La Falta de Regulaciones y Protecciones Efectivas
Aunque muchas plataformas de redes sociales tienen políticas que prohíben el uso de imágenes y videos sintéticos, manipulados o fuera de contexto que puedan engañar o confundir a las personas, la falta de personal dedicado a la moderación de contenido y la dependencia de sistemas automatizados y denuncias de usuarios hacen que estas políticas sean ineficaces.
La reducción de los equipos de moderación de contenido en las redes sociales también plantea preocupaciones sobre la desinformación y las campañas de acoso y trolls coordinados, especialmente de cara a las elecciones de 2024 en Estados Unidos y en todo el mundo.
El experto Ben Decker señala que el caso de Taylor Swift es un ejemplo claro de cómo la IA se está utilizando con fines nefastos y sin suficientes salvaguardias para proteger el espacio público. La falta de regulaciones y protecciones adecuadas hace que sea difícil combatir este problema.
Protegiendo tus Imágenes en un Mundo de Deepfakes
Aunque puede resultar difícil protegerse por completo de la manipulación de imágenes sin consentimiento, existen algunas medidas que se pueden tomar para reducir los riesgos:
Mantén tus perfiles privados y comparte fotos solo con personas de confianza. Nunca se sabe quién puede estar viendo tu perfil.
Limita la cantidad de información y fotos que compartes en línea en general, ya que cuanto menos haya disponible, menor será el riesgo de manipulación.
Ten en cuenta que las herramientas utilizadas para crear imágenes explícitas también requieren una gran cantidad de datos y fotos que muestren rostros desde diferentes ángulos. Cuanto menos material tengan los creadores, menor será el riesgo.
Mantén tus contraseñas seguras y evita utilizar contraseñas fáciles de adivinar. Nunca las anotes en lugares visibles o compartas información personal sensible en línea.
Si bien estas medidas pueden reducir los riesgos, es importante destacar que la tecnología de IA está evolucionando rápidamente y es posible que en el futuro se necesite solo una foto para crear una versión falsa de otra persona. Por lo tanto, es fundamental seguir atentos a los avances en esta área y tomar medidas adicionales para proteger nuestra privacidad y seguridad en línea.
La Importancia de una Legislación Efectiva
Aunque algunos estados de Estados Unidos han promulgado leyes que prohíben la creación y difusión de imágenes pornográficas generadas por IA sin consentimiento, todavía no existe una legislación federal que aborde este problema de manera integral.
En California, por ejemplo, las víctimas de deepfakes pornográficos pueden demandar a quienes creen y distribuyan material deepfake de contenido sexual sin su consentimiento. Florida, Georgia, Hawái, Illinois, Minnesota, Nueva York, Texas, Dakota del Sur y Virginia también han promulgado leyes específicas para proteger a las víctimas de deepfakes pornográficos. Sin embargo, la falta de una ley federal deja vacíos legales y dificulta la persecución de los responsables.
Los expertos y defensores de los derechos de las víctimas abogan por cambios en las leyes que protejan a las personas afectadas por deepfakes pornográficos y por una mayor intervención de las plataformas tecnológicas para evitar su propagación. También se ha propuesto una legislación federal más amplia que aborde el problema de manera más integral.
El Camino Hacia un Futuro Más Seguro
A medida que la generación de imágenes por IA se vuelve más común y accesible, es fundamental que se implementen regulaciones efectivas para proteger a las personas de la manipulación y el abuso. Esto implica una mayor cooperación entre los gobiernos, las plataformas tecnológicas y la sociedad en general.
Esperamos que este incidente con Taylor Swift genere conciencia sobre los peligros de las imágenes generadas por IA y fomente la acción legislativa y tecnológica necesaria para proteger a las personas de este tipo de abuso. Como sociedad, debemos trabajar juntos para establecer un marco legal sólido y promover un uso ético y responsable de la tecnología de IA.
La lucha contra los deepfakes pornográficos es un desafío en constante evolución, pero con la colaboración de todos los actores involucrados, podemos crear un futuro más seguro y proteger la privacidad y la dignidad de las personas en línea.