Mujeres y redes sociales. Imagen de cottonbro studio en Pexels. De uso libre

A principios de 2025, investigadores que seguían de cerca las elecciones africanas descubrieron una oleada de videos deepfake generados por la IA dirigidos a mujeres periodistas y candidatas en Ghana, Senegal, y Namibia, videos sintéticos diseñados para humillarlas, desacreditarlas y sacarlas de la escena pública. El ataque fue escalofriantemente eficaz, refleja una tendencia más amplia en que la tecnología facilita la violencia de género, y silencia las voces de las mujeres precisamente en los momentos en que más necesitan ser escuchadas.

Una encuesta mundial publicada en abril muestra la magnitud del problema. Más de la mitad de las mujeres empresarias en países de ingresos bajos y medios denuncian acoso en línea, y cuatro de cada diez se han retirado de la vida pública para poder estar a salvo. Entre las mujeres periodistas, el panorama es aún peor, casi tres cuartas partes afirma haber sufrido abusos que a menudo están relacionados con desinformación y deepfakes.

Sin embargo, la gran mayoría de las plataformas digitales todavía siguen actuando en materia de seguridad solo después de que el daño ya se extendió, tratan la protección como una mejora y no como una función básica. La seguridad desde el diseño cambia ese guion al incorporar la privacidad, el consentimiento y la detección de abusos en el código y las normas empresariales desde el principio.

¿Qué es exactamente la violencia de género por medio de tecnología, y por qué es importante la “Seguridad desde el Diseño”?

La violencia de género facilitada por la tecnología es “cualquier acto que se comete, se facilita, se agrava o se amplifica mediante herramientas digitales y las tecnologías de la información y la comunicación y que provoca, o puede provocar, daños físicos, sexuales, psicológicos, sociales, políticos o económicos». Abarca desde el abuso con imágenes, la pornografía deepfake y la sextorsión hasta el doxeo, el acosos cibernético, el discurso de odio y la desinformación de género. Dado que el contenido puede replicarse, buscarse y difundirse indefinidamente, el daño se puede transferir entre plataformas y persiste en el tiempo, lo que difumina la frontera entre el abuso «en línea» y «fuera de línea».

Una encuesta de ONU Mujeres reveló que el 58% de niñas y mujeres jóvenes han sufrido al menos una forma de acoso en línea, a menudo antes de cumplir los 25 años. En Kenia, un estudio de 2024 entre estudiantes universitarios descubrió que casi el 90% había sido testigo de abusos facilitados por la tecnología de la universidad, y casi cuatro de cada diez habían sido víctimas. Estas cifras apuntan a una crisis en la que las víctimas suelen responder con autocensura, se  alejan de la vida pública y pierden oportunidades económicas o políticas, lo que a su vez reprime la diversidad de opiniones en el discurso cívico.

Ayuda a Global Voices a seguir publicando más artículos como este.

[Dona url='https://donorbox.org/global-voices-2′]

Para más información sobre esta campaña, por favor, haz clic aquí.

Y por eso es importante la Seguridad desde el Diseño. Para el Comisionado Australiano de Seguridad Electrónica, la Seguridad desde el Diseño es “desarrollar productos teniendo en mente la seguridad y los derechos de los usuarios”, que anima a las empresas a prever, detectar y eliminar los daños en línea antes de que se produzcan, en lugar de “actuar con rapidez y romper cosas”. La Seguridad desde el Diseño da un vocabulario común y puntos de referencia cuantificables para la seguridad. En resumen, hace que la prevención del TFGBV pase de ser una idea secundaria a un requisito de diseño, el equivalente digital a instalar cinturones de seguridad en todos los autos. La responsabilidad abarca todo el ecosistema, incluidas plataformas, reguladores, programadores y grupos cívicos, y no recae únicamente en los ingenieros.

El rol de los desarrolladores de tecnología y la sociedad civil

La sociedad civil suele ser el primer lugar al que acuden los sobrevivientes y la última línea de responsabilidad cuando las empresas o los Estados no cumplen su deber. En toda África, colectivos tecnológicos feministas, ONG dedicadas a los derechos digitales y redes de sobrevivientes que usan la fe como base están convirtiendo las experiencias vividas en datos, herramientas y logros políticos concretos, al tiempo que se unen a coaliciones globales para obtener una mayor influencia.

Los formadores de África oriental de la Red Safe Sisters viajan desde las ciudades comerciales hasta las emisoras de radio para enseñar a las mujeres periodistas cómo detectar el software espía y almacenar pruebas en la nube.

Los programadores sudafricanos responsables de la aplicación móvil GRIT están demostrando cómo se aplica en la práctica la ingeniería que da prioridad a la seguridad. Tras conversaciones con los sobrevivientes de violencia doméstica, el equipo creó un almacén cifrado que permite a los usuarios grabar pruebas y guardar detalles judiciales en un espacio en la nube que solo ellos pueden desbloquear. Esta función ha hecho que las descargas de la aplicación superen las 10,000, y los fiscales afirman que los archivos seguros ya están reforzando los casos en los tribunales de Johannesburgo.

En Kampala, Uganda, el grupo feminista de tecnología cívica Pollicy ha tomado una ruta diferente. Su Digital Safe Tea guía a los jugadores a través de una historia de aventura en la que eligen su propia historia en las que el acoso en línea y el doxeo aparecen como un giro inesperado en la trama. Cada decisión que toma se registra anónimamente, y el conjunto de datos se manda a empresas locales para que puedan subsanar los defectos del diseño antes de que el. producto salga al mercado. Los clubes universitarios de Uganda ahora usan el juego en talleres sobre seguridad digital.

Estos experimentos locales usan un manual global. El comisionado de seguridad digital de Australia publicó un manual de seguridad digital gratuito que guía a los programadores a través de las reseñas de riesgo y configuraciones predeterminadas de seguridad. Los reguladores kenianos citan el mismo recurso en un proyecto de norma que obliga a las nuevas aplicaciones a firmar acuerdos de seguridad antes de salir al mercado. Asimismo, a medida que los codificadores africanos van adoptando el marco, se espera que cada botón de carga y cada lista de contactos incorpore defensas mucho antes de que las amenazas aparezcan.

El rol de las plataformas de redes sociales

Las redes sociales afirman que están construyendo cronologías más seguras, aunque la perspectiva ha cambiado a lo que hacen por los usuarios africanos en específico.

En 2024, TikTok dio un paso público cuando estableció un consejo asesor para la seguridad de África subsahariana en Nairobi y pidió a abogados, periodistas, y defensores de los derechos digitales de Kenia, Ghana, Senegal, y Sudáfrica criticar cada ajuste de la política antes de la entrada en vigencia del cambio. Los miembros del consejo se reúnen trimestralmente y publican actas para que los grupos de vigilancia puedan comprobar si las recomendaciones se transforman en actualizaciones de producto.

Las aplicaciones regionales están siguiendo el ejemplo. Ayoba, el servicio de chat y servicio de contenido respaldado por MTN, ha actualizado sus servidores para filtrar todas las fotos con una lista de imágenes prohibidas que dieron grupos de defensa de los derechos de género doméstico. Los ingenieros afirman que la comprobación se realiza en milisegundos y bloquea las imágenes no consentidas antes de que alguien pueda reenviarlas. Los usuarios que señalan material omitido ahora ven eliminaciones más rápidas, ya que el filtro aprende de cada denuncia.

Los sobrevivientes africanos también se están conectando a una red de seguridad global. Stop NCII, herramienta elaborada por una alianza liderada por Meta, permite a las víctimas crear la huella digital de una foto íntima sin necesidad de subir el archivo. Esa huella digital se envía a docenas de plataformas, que bloquean cualquier toda carga que coincida.

El papel del Gobierno

Ghana ha estado a la vanguardia de la prevención de la TFGBV desde que entró en vigor su ley de ciberseguridad en 2020, que tipifica como delito el intercambio de imágenes íntimas sin consentimiento, y lo castiga con una pena de tres años de prisión. Sudáfrica pronto siguió su ejemplo con su ley de delitos cibernéticos, que ilegaliza la pornografía vengativa y aplica la misma obligación de diligencia quien vuelva a publicar el material. Kenia está ahora en fase de audiencias públicas sobre un proyecto de seguridad infantil en línea que obligaría a todas las plataformas sociales y aplicaciones de mensajería a presentar una evaluación de impacto en la seguridad antes de su lanzamiento.

Los organismos regionales quieren que esas medidas nacionales se sumen. La Política de Seguridad y Empoderamiento infantil en Internet de la Unión Africana, aprobada en 2024, insta a los Estados miembros a incluir las obligaciones corporativas en la legislación y a publicar paneles de control públicos que hagan un seguimiento de la velocidad de retirada y la cobertura lingüística.

Las leyes penales establecen el mínimo, pero los mandatos de diseño y los ganchos de transparencia elevan el máximo. Cuando las legislaturas africanas combinan leyes contra el abuso de imágenes al estilo de Ghana con obligaciones de evaluar riesgos al estilo de Kenia y miden el progreso en función de los parámetros de referencia de la Unión Africana, las plataformas no tienen margen de maniobra para tratar las salvaguardias contra la violencia de género en línea como un complemento opcional. Tomar prestados mecanismos probados de la ley de seguridad en línea de Australia puede acelerar el proceso, y garantizar que todas las nuevas funciones por venir sean seguras por defecto, independientemente del continente en el que se codifiquen.

La violencia de género facilitada por la tecnología no es un efecto secundario del crecimiento digital. Es el precio que pagan las mujeres por estar en línea.

La buena noticia es que todas las piezas del rompecabezas de la seguridad por diseño en África están finalmente sobre la mesa. Desde Lagos hasta Nairobi, los programadores están codificando medidas de protección de la privacidad, las plataformas están invitando a expertos africanos a participar en el desarrollo, los Gobiernos están incorporando mandatos de diseño en las licencias y en la política de la Unión Africana, y las redes de la sociedad civil están incorporando los datos de las sobrevivientes directamente en las versiones de los productos y los borradores de políticas. Solo a través de esta colaboración continental y su seguimiento, África podrá reducir la violencia de género en línea.