Protesta en Palestina. Foto de Alfo Medeiros de Pexels, utilizada bajo licencia de Pexels.

Apartheid digital es uno de los muchos términos nuevos que vemos hoy que abordan las limitaciones de internet y cómo las grandes plataformas tecnológicas tienen el poder de elegir el contenido que vemos en nuestras transmisiones, lo que a veces lleva a reprimir y censurar voces políticas que se oponen a la disidencia y la eliminación.

Últimamente, los usuarios tienen más conocimiento de la ola de censura que han aplicado las plataformas con la «supresión disimulada» (shadow ban), forma de censura que restringe la visibilidad de cierto contenido sin notificar a los usuarios, y acusaciones de «infringir las pautas de la comunidad». Estos son solo algunos de los muchos términos utilizados para silenciar las voces que hablan sobre el actual genocidio palestino que ha estado ocurriendo desde el 9 de octubre.

La historia ha visto cómo las crisis humanitarias se han exacerbado en un estado de guerra. Sin embargo, lo diferente de las guerras que estamos viendo en esta época es el poder de internet y el papel de las grandes plataformas tecnológicas. Después de que Rusia invadió Ucrania, vimos el papel que desempeñó al amplificar las voces de quienes sobrevivieron a la guerra. Hubo un aumento del activismo en la guerra tecnológica, en el que las plataformas de redes sociales decidieron elegir un bando y ofrecieron sus servicios de manera que ayudaran a los ciudadanos ucranianos.

Si bien esta medida ayudó a elevar las voces sobre el terreno y destacó posibles crímenes de guerra ocurridos en este tiempo, vale la pena preguntarse si se están aplicando los mismos estándares a países que no son parte de los países desarrollados del hemisferio norte. El estallido más reciente del conflicto palestino-israelí ha planteado una serie de preguntas en torno a las grandes plataformas tecnológicas que eligen amplificar algunas voces en algunas crisis humanitarias mientras eligen convenientemente ignorar el resto.

Según un informe de Amnistía Internacional de 2017, los modelos algorítmicos y los intereses lucrativos de Meta llevaron a que las atrocidades se amplificaran durante la crisis musulmana rohinyá en Myanmar (octubre de 2016 a enero de 2017). Las fuerzas de seguridad de Myanmar emprendieron una campaña generalizada de limpieza étnica en la plataforma de Meta, Facebook, que llevó a graves violaciones de derechos humanos sobre el terreno e incitó a más odio, violencia y discriminación contra la comunidad. El contenido de odio aumentó en Facebook y, en 2018, la compañía admitió no haber hecho lo suficiente para evitar la escalada de este contenido en sus plataformas. Esto llevó a que la plataforma fuera demandada en Reino Unido y Estados Unidos. El caso está en curso.

Más recientemente, según la ONG palestina 7amleh (Centro Árabe para el Avance de las Redes Sociales), entre el 7 de octubre y el 14 de noviembre se verificaron 1447 violaciones de los derechos digitales palestinos. Esta cifra incluye 573 casos de restricciones de cuentas o eliminación de contenido de usuarios y simpatizantes palestinos. También ha habido 904 casos de discurso de odio, incitación a la violencia y otras formas de violencia en línea facilitadas por la tecnología que se han verificado manualmente.

7amleh desarrolló un modelo de lenguaje impulsado por inteligencia artificial que da seguimiento a la propagación del discurso de odio en hebreo contra palestinos y usuarios propalestinos en plataformas. El indicador de violencia ha documentado más de un millón de casos clasificados de discurso de odio en todas las plataformas, la mayoría de los cuales se han encontrado en X (antes Twitter). Según 7amleh, el 68% de los casos documentados de incitación y discurso de odio se basaron en afiliaciones políticas o sentimientos nacionalistas, el 29% en prejuicios raciales y el resto incluyó violencia de género y violencia religiosa, entre otras.

Recientemente, usuarios de todo el mundo han notado que las grandes plataformas tecnológicas han estado restando importancia a su alcance orgánico, y que los usuarios informaron que menos personas podían ver su contenido, particularmente relacionado con el genocidio y la guerra que está ocurriendo en Gaza. Numerosos activistas y personas han informado que las grandes plataformas tecnológicas, como Facebook, Instagram, X, YouTube y TikTok están prohibiendo el contenido pro palestino.

También ha habido informes de que Instagram eliminó cuentas propalestinas, que son una fuente de noticias para muchísimas personas en línea, como @eye.on.palestine, que se eliminó y que ahora se restablece en la plataforma, con 8,8. millones de seguidores. Instagram también ha recibido críticas por agregar la palabra «terrorista» a las biografías de los usuarios de Instagram que se describen como palestinos en la plataforma. A la crisis ya la están denominando la «niebla de guerra impulsada algorítmicamente«, con cada vez más uso de inteligencia artificial (IA) y de IA generativa para difundir desinformación contra las voces propalestinas.

Grupos de derechos internacionales como Amnistía Internacional y Access Now también han emitido declaraciones sobre racismo y discurso de odio que los palestinos enfrentan en línea y la necesidad de que las plataformas hagan más en tiempos de crisis, en lugar de censurar y proscribir a los ciudadanos que ya presencian una guerra en curso sobre el terreno.

Para frenar este obstáculo dirigido por las plataformas de medios sociales, algunos usuarios de internet han estado tomando «descansos de algoritmos» y «engañando a los algoritmos» y publicando historias normales para luego, en el medio, agregar historias de la guerra en curso.

Los usuarios también agregaron pitidos para ocultar voces en off, alteraron la ortografía de palabras comunes en inglés y árabe como “Palestina”, “genocidio” y “Hamas” para evadir que las detectaran, y pusieron mensajes entre publicaciones regulares y carretes con imágenes y videos de Gaza sobre el genocidio en curso para correr la voz. Algunos usuarios están adoptando el «algosspeak«, mediante el cual crean nuevas palabras en lugar de palabras clave para que los algoritmos no las detecten y las eliminen de las plataformas, táctica de evasión utilizada para contrarrestar la moderación automatizada en las redes sociales.

Global Voices habló con Mona Shtaya, defensora de los derechos digitales radicada en Palestina, a través de LinkedIn, sobre el apartheid digital que los ciudadanos palestinos han estado experimentando y cuán importantes son las grandes plataformas tecnológicas durante este tiempo. Nos dijo:

Given the inadequate and biased coverage by international mainstream media and the targeting of journalists, social media platforms should serve as a means for Palestinians to share their narrative. However, the reality differs significantly.

These platforms heavily censor Palestinian voices, shadowban Palestinians and their supporters, and infringe upon their rights to free speech, assembly, access to information, political participation, and protection from discrimination. These violations closely resemble those witnessed in 2021 [in Palestine], representing a systematic and deliberate suppression of Palestinian voices, as confirmed by the Sustainable Business Network and Consultancy (BSR) report. This highlights the platforms’ failure to uphold fundamental human rights principles.

Dada la cobertura inadecuada y sesgada de los principales medios internacionales y los ataques contra los periodistas, las plataformas de redes sociales deberían servir como un medio para que los palestinos compartan su narrativa. Sin embargo, la realidad es significativamente diferente.

Estas plataformas censuran fuertemente las voces palestinas, dejan en la sombra a los palestinos y a sus partidarios, e infringen sus derechos a la libertad de expresión, reunión, acceso a la información, participación política y protección contra la discriminación. Estas violaciones se parecen mucho a las presenciadas en 2021 [en Palestina], y representan una supresión sistemática y deliberada de las voces palestinas, como lo confirma el informe de Sustainable Business Network and Consultancy (BSR). Esto destaca el fracaso de las plataformas al defender los principios fundamentales de derechos humanos.

Shtaya añadió cómo los fallos algorítmicos y la prohibición oculta del contenido propalestino están causando problemas a quienes intentan contar sus historias con el mundo y pedir un alto el fuego inmediato.

Dijo: «La censura de las redes sociales nos está asfixiando, exacerbando nuestro sufrimiento y la lucha contra la discriminación sistémica. Amplifica la autocensura y crea un efecto paralizador, que en última instancia agrava la opresión que enfrentan las comunidades marginadas».

En cuanto a lo que el público puede hacer para ayudar, Shtaya señaló:

People should be aware of falling victim to disinformation and one-sided narratives. Social media censorship impedes Palestinians from sharing their perspectives. Therefore, the general public should proactively fact-check the news they receive regarding events on the ground and ensure they engage with and listen to the Palestinian narrative. Additionally, individuals should support Palestinian voices by following Palestinian accounts and sharing their content.

Las personas deben ser conscientes de no ser víctimas de la desinformación y las narrativas unilaterales. La censura de las redes sociales impide que los palestinos cuenten sus perspectivas. Por lo tanto, el público en general debe verificar proactivamente las noticias que recibe sobre los acontecimientos sobre el terreno, y asegurarse de interactuar y escuchar la narrativa palestina. Además, las personas deben apoyar las voces palestinas siguiendo las cuentas palestinas y difundiendo su contenido.

En tiempos de crisis humanitaria, las plataformas de redes sociales han demostrado ser el único medio para documentar acontecimientos y educar a personas de todo el mundo sobre los abusos y el sufrimiento en el terreno. Que las plataformas opten por discriminar algunas identidades es una grave violación de los derechos humanos y crea un apartheid digital que solo exacerba las crisis.

Seerat Khan es líder de programas en la Fundación de Derechos Digitales en Pakistán y ha hecho un exhaustivo trabajo sobre género y tecnología durante los últimos siete años. Trabaja principalmente con defensoras de derechos humanos y periodistas en temas clave como protección de datos, seguridad en línea, género, privacidad y desinformación.