Captura de X (antes Twitter) que muestra a algunos usuarios de la plataforma que usan el chatbot de IA Grok para sexualizar a las mujeres.

Por Victory Brown

Este artículo es parte de la serie Spotlight de abril de 2026 de Global Voices, Perspectivas humanas sobre IA. Esta serie ofrecerá una mirada profunda hacia cómo se está usando IA en países en desarrollo, cómo su uso e implementación afectan a las comunidades individuales, qué podría significar este experimento de IA para futuras generaciones, y más. Puedes apoyar este reportaje donando aquí.

Como nigeriana que ha estado años en X (antes conocido como Twitter), he visto muchas cosas. He sido testigo de cambios en las políticas, aparición y desaparición de tendencias, y construcción y disolución de comunidades. Por mucho tiempo, me consideré una usuaria de internet «consciente». Administré el contenido de mi cronología con cuidado, evité las interacciones innecesarias, silencié palabras detonantes y acepté la incómoda realidad de que internet, especialmente para las mujeres, nunca se diseñó con nuestra seguridad en mente.

Mi trabajo en Superbloom (organización de diseño sin fines de lucro y estudio), en particular en proyectos de diseño dedicados al ser humano y la guía del laboratorio de diseño de políticas tecnológicas sobre violencia de género en línea, fue mi primera exposición real a la escala e intensidad de la violencia que ocurre en línea. Presencié cómo estas formas de violencia persisten en línea: las víctimas permanecen asustadas y vulnerables mientras los perpetradores rara vez asumen su responsabilidad. A menudo, la respuesta se limita a una suspensión temporal y pronto regresan con una cuenta nueva y una víctima nueva. Las redes sociales, que alguna vez fueron un lugar para conectar, construir comunidades y emprendimientos, ahora se han convertido en un campo de batalla y un entorno hostil, en el que las mujeres a menudo son las principales víctimas del abuso no provocado. Además, según estimaciones de Naciones Ubidas, solo un 40% de los países tienen legislación que protege a mujeres y niñas del abuso en línea, lo que deja a gran parte de la población mundial expuesta.

Como diseñadora de experiencia de usuario (diseño UX), he aprendido en mi rol que las decisiones de diseño, a veces invisibles para los usuarios, moldean resultados en el mundo real. Sea el diseño UX de una plataforma o aspectos invisibles, como retener datos y la privacidad del usuario, las decisiones de diseño pueden proteger o exponer a los usuarios. Comencé a entender que un buen diseño no solo es intuitivo; es protector, transparente y accesible.

Sin embargo, he notado que la mayoría de plataformas sociales, como X, permiten que prolifere el contenido pasivo-agresivo sutil. He visto esto personalmente y desde la perspectiva de una observadora. Este es, concretamente, el caso con Grok, asistente de IA desarrollado por la empresa emergente «xAI» de Elon Musk e integrado directamente en X. Le permite a los usuarios generar textos y editar imágenes con instrucciones simples, que incluye transformación de fotos. Como está integrado en una plataforma altamente conectada, Grok no opera solo: sus resultados pueden difundirse, ampliarse y utilizarse como arma instantáneamente, lo que provoca nuevas preocupaciones sobre cómo el contenido generado por IA circula en entornos digitales que ya son peligrosos. Antes de Grok, internet ya era hostil. A las mujeres las atacaban por sus cuerpos, sus religiones, sus opiniones políticas, sus acentos, sus identidades y más.

Ser sincera, visible o simplemente existir en línea como mujer, especialmente una mujer negra nigeriana, a menudo traía consecuencias. Hay estudios que muestran que, si bien mujeres de todo el mundo a menudo sufren abuso en línea, las mujeres negras sufren más acoso en línea que las mujeres blancas.

Se normalizó el acoso, los ataques en masa eran entretenimiento y se presentaba el abuso como «libertad de expresión». Estos delitos, aunque puedan parecer sutiles en la superficie, a menudo causan un daño inmensurable a las víctimas.

Mundialmente, la investigación ha mostrado constantemente que las mujeres pasan por niveles desproporcionadamente altos de acoso en línea, que incluye, aunque no se limita, a la misoginia, el ciberacoso y las campañas de acoso coordinadas. Los datos nigerianos sugieren que estos patrones son aún más marcados a nivel local. Por ejemplo, la organización ActionAid en Nigeria informa que cerca del 45% de las nigerianas han sufrido ciberacoso, mientras que estudios más amplios sobre los daños en línea indican que mujeres y niñas están entre las víctimas principales de la violencia digital.

Sin embargo, luego de la introducción y del uso generalizado de Grok, algo cambió. Lo que alguna vez fue acoso impulsado por el humano comenzó a sentirse sistematizado.

Aunque Grok no inventó la violencia de género digital, se ha convertido en una herramienta poderosa para amplificarla a gran velocidad y escala.

Condiciones estructurales que pueden influir en el daño de la IA

Existen vulnerabilidades estructurales integradas en el panorama digital e institucional de Nigeria que no solo moldean cómo se adopta la IA, sino que también amplifican los daños que pueden causar los sistemas mal gestionados. No es novedad que nuestro sistema legal es débil al cumplir sus deberes bajo el estado de derecho.

En Nigeria, las condiciones estructurales que están moldeando la vida digital hacen más que solo definir el acceso a la tecnología. Activamente determinan a quién se le hace daño, qué tan rápido se propaga el daño y qué tan difícil es buscar soluciones. Cuando los sistemas mal gestionados se introducen en este panorama, las vulnerabilidades por género existentes no solo se exponen, también se magnifican.

El marco regulatorio de Nigeria para IA sigue estando fragmentado; las políticas y los marcos actuales que abordan los problemas digitales se propagan entre múltiples agencias, lo que crea confusión en vez aclarar sobre quién es responsable de qué riesgos, y cómo hacer cumplir los salvaguardias.

Un ejemplo claro de esta dinámica es la reciente controversia mundial sobre Grok.

Grok está diseñado para generar y editar imágenes de las instrucciones simples de los usuarios, y rápidamente se está usando de mala manera para producir millones de imágenes sexualizadas y sin consentimiento, que incluye imágenes de mujeres y menores de edad. Ha habido una serie de investigaciones e informes que documentaron cómo los usuarios de X abiertamente usaron las funciones de edición de imagen de Grok para manipular fotos de mujeres y niñas, que incluye transformar fotos comunes en versiones reveladoras o sexualizadas sin consentimiento. Incluso después de las actualizaciones de las políticas de la plataforma, periodistas e investigadores informaron que la herramienta aún podía generar imágenes sexualizadas, lo que en algunos casos destaca persistentes fallos en la moderación y cumplimiento de las normas.

En un país como el mío, donde el daño en línea ya es dominante y la responsabilidad de las plataformas sigue siendo débil, estas herramientas de IA están amplificando y acelerando los patrones existentes de abuso. El informe «State of Online Harms in Nigeria» (Estado del daño en línea en Nigeria) de 2024, publicado por Gatefield, revela que las mujeres eran víctimas en el 58% de los casos de abuso en línea en el país, e identifica a X y Facebook como las principales plataformas donde ocurre el abuso (34% y 29% de casos reportados, respectivamente). Aún así, solo el 24% de los nigerianos considera que X responde a las denuncias sobre daño en línea.

Investigaciones y proyecciones recientes también sugieren que el problema podría crecer significativamente a medida que las herramientas de IA generativa se generalizan más. Un nuevo informe publicado por Gatefield en febrero de 2026, «Industrialized Harm: The Scale of AI-Facilitated Violence in Nigeria» (Daño industrializado: Magnitud de la violencia facilitada por IA en Nigeria), estima que, para 2030, 70 millones de mujeres y niñas nigerianas podrían estar expuestas al abuso en línea facilitado por IA anualmente, con 30 millones de víctimas directas.

Esta brecha entre el daño y la responsabilidad crea terreno fértil para que prospere el abuso habilitado por IA. Cuando las plataformas fallan en cumplir efectivamente las políticas, las herramientas de IA generativa reducen las barreras para producir y distribuir contenido explotador, lo que agrava una ya severa crisis de seguridad digital con perspectiva de género. En un entorno donde las mujeres son desproporcionalmente atacadas y a los mecanismos de denuncia se les ve ampliamente como ineficaces, la IA no introduce un problema nuevo, magnifica uno que ya existe.

Sin una moderación y un cumplimiento de normas eficaces en plataformas como X, las herramientas de IA aceleran el daño de género, y reducen las barreras para permitir producir y circular contenido explotador.

Bajo las políticas de rentabilización de X, en las que los creadores virales pueden ganar dinero por clics e interacciones, los perpetradores tienen una oportunidad de lucrar con sus acciones. Aquí es donde los algoritmos importan. Las plataformas no son espacios neutrales. Los algoritmos deciden qué surge a la superficie, qué se vuelve tendencia y qué se recompensa con visibilidad, potencialmente a costa de quienes son más vulnerables. Cuando el acoso generado por IA se trata como «contenido atractivo», se amplifica, y las mujeres, especialmente las de los países en desarrollo, se convierten en daño colateral.

Cómo diseñar para evitar el daño en vez de reaccionar

En Superbloom, a través de nuestro trabajo en el Laboratorio de Diseño de Políticas Tecnológicas con Tope Ogundipe de TechSocietal, desarrollamos un marco de evaluación de privacidad con perspectiva de género para ayudar a responder esa pregunta. El marco se basa en principios de derechos humanos e investigación participativa, y ofrece a las empresas tecnológicas una manera práctica de evaluar si sus herramientas, especialmente sistemas de IA, refuerzan o reducen el daño de género.

Impulsa a las plataformas a trascender las funciones de seguridad superficiales y a examinar sistemas más profundos: compromisos de gestión, capacitación del personal sobre la violencia de género facilitada por la tecnología, mecanismos de denuncia accesibles, consentimiento significativo y voluntario, minimización de datos, cifrado y participación genuina de las partes interesadas con grupos de derechos de las mujeres.

La IA puede aumentar desigualdades que ya existen. Aplicar un planteamiento de privacidad con perspectiva de género antes y después de desplegarlo asegura que la innovación no suceda a costa de la seguridad de las mujeres. Las herramientas para diseñar de manera más responsable ya existen. La verdadera pregunta es si las plataformas están dispuestas a usarlas.