Ilustración de Tactical Tech, con elementos visuales de Yiorgos Bagakis y de Alessandro Cripsta.

Este artículo lo escribió Safa Ghnaim en colaboración con el Goethe-Institut de Brasil y se publicó originalmente en DataDetoxKit.org. Global Voices reproduce una versión editada en virtud de un acuerdo de colaboración.

Las herramientas de inteligencia artificial (IA), especialmente las que generan imágenes, videos y audio, se han promocionado como «aplicaciones de creatividad» para personas y como «herramientas de eficiencia» para empresas. Sin embargo, existen muy pocas formas de controlar cómo se utilizan realmente y los daños que estas imágenes creadas artificialmente pueden causar.

No sorprende que las herramientas de IA estén agudizando el problema del acoso en línea, por ejemplo, a través de la creación y distribución de imágenes íntimas no consentidas. Estas imágenes corresponden a fotos o videos íntimos de desnudos, o imágenes sexualmente sugerentes o explícitas que exponen un cuerpo real o generado por IA de una persona y que se difunden sin su consentimiento.

La distribución de imágenes íntimas no consentidas afecta a muchas personas, no solo a las celebridades, y no es fácil de manejar. Incluso las plataformas y las autoridades están luchando para controlar la situación.

El problema es mas grande de lo que te imaginas

La tecnología avanza tan rápido que ahora basta con una sola imagen de alguien (y podría ser incluso una imagen completamente inocente) para crear contenido sexual explícito con una de las muchas herramientas de IA.

Aunque algunas de estas herramientas agravan el problema del acoso, pues facilitando crear imágenes íntimas no consentidas de cualquier persona, otras se están utilizando para combatirlo. Sin embargo, las herramientas impulsadas por IA que están entrenadas para detectar imágenes generadas por IA no son perfectas, y gran parte del trabajo para identificarlas y eliminarlas aún recae en personas que trabajan como moderadoras de contenido.

Uno de los casos más resonantes en 2024 involucró imágenes ultrafalsas sexualmente explícitas generadas por IA de Taylor Swift. Estas imágenes aparecieron primero en 4chan y, en apenas minutos, se difundieron rápidamente por varias redes sociales. Una de las imágenes se vio más de 47 millones de veces antes de ser eliminada. Es posible que estas imágenes aún se estén difundiendo en línea, ya que no hay una manera real de borrarlas por completo de internet.

Pero este no es un caso aislado. Según un estudio de 2021, el 41% de más de 10 000 encuestados en Estados Unidos dijo que había experimentado personalmente alguna forma de acoso en línea. De los encuestados menores de 35 años, el 33% de las mujeres y el 11% de los hombres dijeron que habían experimentado específicamente acoso sexual en línea.

De manera similar, un análisis de 2023 de más de 95 000 videos ultrafalsos encontró que hasta el 98% eran pornografía ultrafalsa y, de esos, el 99% de las personas objetivo eran mujeres. Otros grupos vulnerables, como menores de edad y personas LGBTQ+, también son víctimas de acoso sexual en línea de manera desproporcionada.

¿Qué medidas puedes tomar para protegerte de este tipo de acoso?

Existen algunos mecanismos de protección que han implementado las plataformas para ayudarte a bloquear tu información y protegerla de miradas no deseadas. Aunque estos consejos no serán una fortaleza impenetrable, pueden hacer que sea más difícil para los acosadores o para quienes intentan hacer daño, llegar a ti.

Cada plataforma es diferente y tiene configuraciones y opciones accesibles para los usuarios. Como ejemplo, aquí hay algunas acciones que puedes tomar para ajustar los controles en tu Instagram y TikTok:

• Configura tu perfil como «privado». En plataformas como Instagram y TikTok, puedes configurar tu perfil como privado para que solo las personas que apruebes como seguidores puedan ver lo que difundas en la mayoría de los casos. Sin embargo, aún podrán ver los comentarios que hagas en las publicaciones de otras personas e incluso podrán enviarte mensajes. Aprende cómo configurar tu perfil como privado en Instagram y TikTok.

• Elimina seguidores o bloquea personas. Si alguien te está causando problemas o te hace sentir incómodo, puedes eliminarlo como seguidor o bloquearlo por completo. Pero si conoces a la persona en la vida real, necesitarás una estrategia diferente. Aprende cómo bloquear personas en Instagram y en TikTok.

Se necesita una comunidad

Si miramos la cantidad de personas a quienes están acosando en línea, parece lógico suponer que también hay muchos acosadores. Pero la realidad es que solo se necesita una persona malintencionada para causar un daño generalizado. ¿Considerarías como acosador a alguien que difundió contenido íntimo sin consentimiento, aunque no fue quien generó las imágenes originalmente? En el caso de Taylor Swift, solo se necesitaron pocas personas para crear su contenido íntimo sin consentimiento, pero el tema no se habría hecho viral si muchas personas no lo hubieran difundido.

Entonces, ¿cómo puedes convertirte en un aliado para alguien a quien están acosando? No importa qué plataforma uses, lo más probable es que tenga una función de «denunciar». En aplicaciones como Instagram, puedes denunciar publicaciones específicas o incluso perfiles completos si ves algo que parece abuso o acoso. Denunciar en Instagram es una excelente opción para señalar a personas o situaciones problemáticas que veas o escuches. Instagram no dará a conocer la identidad de la persona que denuncia con la persona denunciada.

Cuando «denuncias» en Instagram, la plataforma puede eliminar la publicación o puede advertir, desactivar o prohibir el perfil o cuenta, dependiendo de lo que haya sucedido y de si infringe o no sus Pautas Comunitarias. Cabe destacar que las Pautas Comunitarias de Meta no siempre son útiles, y eliminar publicaciones y prohibir cuentas han causado diversas controversias.

Si conoces personalmente a la persona a quien están acosando, contáctala si no tienes problemas de contactarla. Puede ser que no se haya dado cuenta de lo que está pasando y reaccione con angustia, enojo o tristeza. Si te sientes preparado para dar apoyo, puedes ofrecerle recursos (como los que están al final de esta guía) y ayudar a supervisar y documentar el acoso.

Aunque probablemente no quieras volver a ver las imágenes de acoso, podría ser útil documentarlo antes de que sea eliminado. Considera tomar una captura de video o de pantalla de la publicación o comentario que incluya el nombre de la cuenta de la otra persona y la fecha. Guarda esta evidencia en un lugar seguro y fuera de la vista en tu teléfono o computadora. Por ejemplo, en algunos teléfonos puedes configurar una «carpeta segura» protegida por contraseña.

La evidencia puede ser útil en caso de que la persona afectada decida llevar el asunto a la justicia y necesite alguna prueba.

Es importante que la persona afectada decida qué quiere hacer. ¿Quiere contactar a las autoridades, contratar a un abogado o comunicarse con la escuela, universidad o lugar de trabajo? ¿O preferiría mantener la situación lo más confidencial posible? Especialmente en situaciones de difusión de imágenes íntimas sin consentimiento, a las víctimas se les quita mucha capacidad de decisión, así que asegúrate de apoyarlas para que puedan recuperar el control.

Saber dónde pedir ayuda

Si tú o alguien que conoces es objeto de imágenes íntimas sin consentimiento, ten en cuenta que existen organizaciones dedicadas a este tema que están dispuestas a ayudar. No tienes que enfrentar estas situaciones solo. Aquí hay algunas organizaciones que apoyan a angloparlantes:

• Chayn (a nivel mundial): Chayn proporciona recursos y apoyo a víctimas de violencia de género.
• StopNCII (a nivel mundial): StopNCII tiene una base de recursos y una herramienta que puede ayudarte a eliminar imágenes íntimas no consentidas.
• Take Back the Tech (a nivel mundial): ofrece explicaciones y recursos como Hey Friend, con consejos sobre cómo puedes apoyar a tus amigos cuando son víctimas de acoso.
• National Sexual Assault Hotline de RAINN (Estados Unidos): RAINN ofrece una línea telefónica privada por la que puedes chatear en línea o llamar a un miembro del personal capacitado en crisis.
• Take It Down (Estados Unidos): te ayuda paso a paso a presentar una solicitud para eliminar imágenes íntimas difundidas sin consentimiento.
• Cyber Civil Rights Initiative (CCRI) (Estados Unidos): incluye guías paso a paso y listas de abogados y leyes en Estados Unidos. También tienen una lista de recursos internacionales.
• Revenge Porn Helpline (Reino Unido): ofrece asesoría a adultos que han sido víctimas de acoso.
• Umi Chatbot (Australia):  es una forma rápida de obtener información sobre cómo lidiar con imágenes íntimas difundidas sin consentimiento. El sitio web también tiene recursos sobre cómo recopilar evidencia y denunciar.

Para más consejos y recursos sobre cómo lidiar con el acoso en línea:

• No estás desprotegido frente al acoso en línea.
• Qué hacer si tú o alguien que conoces es víctima de pornografía ultrafalsa o desnudos generados por IA.