Imagen creada en Canva por Global Voices.

Esta publicación forma parte de la serie Spotlight de abril de 2026, «Perspectivas humanas sobre IA«. Esta serie ofrecerá información sobre cómo se está utilizando la IA en la mayoría de los países del mundo, cómo su uso y aplicación están afectando a las comunidades, qué podría significar este experimento con la IA para las generaciones futuras y mucho más. Puedes apoyar esta cobertura con una donación aquí.

En noviembre de 2023, un grupo de padres de un colegio de Río de Janeiro denunció ante la Policía que unos adolescentes estaban creando y difundiendo desnudos de otras compañeras de clase generados con inteligencia artificial (IA). Menos de un año después, en septiembre de 2024, en el estado de Bahía, se sospechó que otro grupo de adolescentes estaba utilizando IA para crear imágenes pornográficas de otras compañeras de clase, mientras que en el estado de Mato Grosso, se expulsó a varios alumnos por difundir en comunidades pornográficas de redes sociales imágenes generadas con IA de un profesor y otros alumnos.

Estos son algunos casos recientes difundidos por los medios brasileños y mencionados en una nota técnica publicada por el centro de investigación independiente de Internetlab a principios de abril de 2026. El documento pretende analizar las «formas de combatir la violencia virtual contra las niñas y las mujeres en Brasil», y recomendar debates normativos en el contexto del país.

Según el Foro Brasileño de Seguridad Pública, solo en 2025 se registraron 1568 femicidios en Brasil, un 4,7% más con respecto al año anterior y la cifra más alta registrada desde que se promulgó la ley que define este tipo de delito, diez años antes. El aumento de los casos de violencia de género denunciados en las noticias generó protestas a finales de 2025. Y la creciente cantidad de contenido misógino en línea está «alimentando la violencia», informa Deutsche Welle.

Clarice Tavares, directora de investigación de Internetlab y una de las autoras de la nota técnica, en entrevista con Global Voices, dijo que los casos de violencia de género, en línea y fuera de línea, forman parte de una misma estructura misógina, que coexisten y son codependientes entre sí. Según su análisis, «estamos atravesando un momento complejo de gran violencia contra las mujeres, y necesitamos políticas públicas que tengan en cuenta estos contextos, con sus particularidades».

Al hablar sobre la IA y las cuestiones de género, Tavares señala que las bases de datos que alimentan las plataformas pueden estar sesgadas y, por lo tanto, influir en sus resultados. Según explica, Internetlab decidió centrarse en la violencia relacionada con la IA en la nota técnica por su amplio impacto y a la posibilidad de abordarla con regulación adecuada.

Entre otros aspectos, el documento de Internetlab señala los riesgos asociados a los «deepfakes de contenido sexual no consentido» y aboga por que la posibilidad de que esto ocurra se clasifique como «riesgo excesivo», y señala que «estas tecnologías afectan de manera desproporcionada a mujeres y niñas»:

Uma pesquisa conduzida pela Security Hero demonstrou que deepfakes sexualmente explícitas representam 98% de todos os vídeos de deepfake online, e que 99% das pessoas alvo desses conteúdos eram mulheres. A pesquisa também indicou um aumento de 464% do número de deepfakes sexuais entre 2022 e 2023.

Un estudio realizado por Security Hero reveló que los deepfakes de contenido sexual representan el 98% de todos los videos deepfake en línea, y que el 99% de las personas a quienes se dirige este tipo de contenido son mujeres. El estudio también señaló un aumento del 464% en los deepfakes sexuales entre 2022 y 2023.

Aunque Tavares afirma que los problemas no se limitan a una sola plataforma, señala a Grok, la IA integrada de X, como la punta del iceberg, lo que evidencia un problema más amplio que ya se extendió por internet.

I think this case calls for attention, since the AI that made it possible to create this sort of content was already part of its own social media, which helped to amplify the reach of such content. It was very much on the surface. I think it's a systemic issue, but Grok’s case made it impossible not to discuss it or worry about the current state of things. It was evident there had been several flaws in the tools and the platforms that allowed these things to happen on such a large scale.

Creo que este caso merece nuestra atención, ya que la IA que permitió crear este tipo de contenido ya formaba parte de sus propias redes sociales, lo que contribuyó a ampliar el alcance de ese contenido. Era algo muy evidente. Creo que se trata de un problema sistémico, pero el caso de Grok hizo inevitable debatirlo y preocuparse por la situación actual. Era evidente que había varios fallos en las herramientas y las plataformas que permitieron que estas cosas sucedieran a tan gran escala.

¿Qué dice la ley en Brasil?

En la última década, Brasil logró avances en la legislación relativa a los derechos en internet. En 2025, 11 años después de la firma del Marco Civil da Internet, ley que sirve de marco para los derechos de internet en Brasil, el Supremo Tribunal Federal votó a favor de declarar parcialmente inconstitucional uno de sus artículos. El artículo 19 normaba sobre la responsabilidad civil de las plataformas por los contenidos publicados por terceros (usuarios). La mayoría de los jueces entendieron que, en la situación actual, la norma no bastaba para proteger los derechos fundamentales y la democracia.

«Aún nos queda mucho por comprender sobre cómo se aplicará esta resolución en la práctica. El nuevo régimen sobre la responsabilidad de las plataformas estableció las normas sobre su funcionamiento hasta que se apruebe una legislación reguladora más sólida. Las plataformas tienen ahora más obligaciones en materia de moderación de contenidos, por lo que la resolución nos plantea un nuevo paradigma para pensar en la responsabilidad y las obligaciones de las plataformas», afirma Tavares.

En el contexto de la violencia de género en internet, también destaca la importancia de contar con una definición jurídica y un concepto de lo que se entiende por misoginia para poder aplicar la sentencia del Supremo Tribunal. «Queremos adaptar esta sentencia a las políticas públicas y a la legislación ya existentes en torno a la violencia de género a este nuevo escenario de violencia digital», explica.

El análisis de Internetlab señala un aumento de los proyectos de ley destinados a penalizar el comportamiento misógino y el denominado movimiento de píldora roja y la machoesfera, pero señala que, aunque constituyen un paso importante para abordar el problema, optar por la penalización como única solución podría limitar la eficacia de las estrategias de prevención y reparación para las víctimas.

Entre sus recomendaciones sobre la IA se incluye, por ejemplo, elaborar pautas curriculares sobre alfabetización digital para fomentar el análisis crítico del funcionamiento de los algoritmos, las plataformas, las herramientas de inteligencia artificial y otros elementos del ecosistema digital.

En cuanto a las plataformas, la nota recomienda adoptar medidas de seguridad desde las primeras fases de concepción de sus proyectos (seguridad desde el diseño), «para evitar la creación y difusión de este tipo de contenidos», que afectan principalmente a mujeres y niños como víctimas. Los deepfakes de contenido sexual no consentido deberían considerarse un «riesgo excesivo», cuyo uso y aplicación deberían prohibirse, y deberían establecerse normas respecto a la responsabilidad y las obligaciones de las plataformas digitales y los agentes de IA.

Un estudio de la Fundación Movember, organización dedicada a la salud masculina, señala que dos tercios de los hombres jóvenes interactúan habitualmente con influenciadores que promueven la masculinidad en línea. Un artículo publicado por ONU Mujeres afirma que «los expertos consideran que la popularidad del lenguaje extremo en la «machoesfera» no solo normaliza la violencia contra mujeres y niñas, sino que se relaciona cada vez más con la radicalización y las ideologías extremistas».

Conforme se acerca la temporada electoral en Brasil, y ante las denuncias de videos generados con IA que muestran actos de violencia contra las votantes, Tavares considera que ahora hay nuevos aspectos que considerar en relación con la violencia política de género. «Con la producción de videos o incluso con los chatbots como Gemini, ChatGPT o Claude, lo que vemos es que [la IA] probablemente se convertirá en una herramienta utilizada como medio para acceder a la información, y podría haber sesgos de género que reproduzcan la violencia de género y la violencia política de género. Todavía estamos tratando de averiguar el impacto que puede tener y que tendrá a partir de ahora».