Facebook prohíbe palabra racista ‘kalar’ en Myanmar, genera censura colateral

La palabra birmana “kalar pae” significa garbanzo o arveja partida. Foto de Sanjay Acharya, Wikipedia Commons, Creative Commons Attribution-Share Alike 3.0 Unported.

Según los usuarios birmanos de Facebook, la popular empresa de medios sociales está retirando sus publicaciones por contener la palabra ‘kalar’.

Aunque se sigue debatiendo la etimología de la palabra debated, sea usa tradicionalmente para referirse a personas de procedencia inndia o como adjetivo que significa «indio» en general. Facebook está censurando la palabra «kalar» o ကုလား (en alfabeto birmano) como parte de su iniciativa para abordar el problema de discurso de odio generalizado en la red social en birmano.

En años recientes, el aumento de movimientos radicales nacionalistas ha dado a la palabra una connotación extremadamente peyorativa. ‘Kalar’ lo usan los ultranacionalistas y fundamentalistas religiosos para atacar a musulmanes en Myanmar, especialmente la minoría rohingya en la parte noroeste del país.

Pero en este esfuerzo de combatir el discurso de odio en Myanmar, la empresa ha censurado mucho contenido viable de su plataforma.

‘Kalar’ puede estar asociada comúnmente con el racismo hoy, pero la propia palabra no necesariamente constituye discurso de odio. El contexto importa –muchas personas han informando que publicaciones donde han discutido sobre el uso del término o expresado preocupación sobre su uso, también fueron censuradas.

Además, hay varias palabras birmanas con significados completamente diferentes que contienen la misma serie de caracteres de ‘kalar’. Por ejemplo, silla en birmano también se escribe ‘kalar htaing’, que contiene los mismos caracteres, y palabras como ‘kalar pae’ (arveja partida), ‘kalar oat’ (camello) o ‘kalarkaar’ (cortina).

En Facebook, el usuario Aung Kaung Myat explicó los diferentes significados de las palabras que suenan parecido a ‘kalar':

A post made by one of my friends was deleted today because there was the word, kalar, in it. However, he was wittily asking his friends if they know where he can cure his lower back pain by using a pun. The phrase, ku la — ‘cure’ (ku) + question word (la) in Burmese language — bears striking resemblance verbatim with the racist term but they are wholly different in context.

Hoy borraron la publicación de un amigo mío porque tenía la palabra kalar. Sin embargo, ingeniosamente le estuvo preguntando a sus amigos si sabían dónde podía curarse de un dolor de espalda, lo hizo usando un juego de palabras. La frase, ku la — ‘cura’ (ku) + palabra de pregunta (la) en birmano —se parece muchísimo al término racista, pero son totalmente diferentes en contexto.

Hubo diversas reacciones a esta iniciativa de Facebook. Zin Win Htet cree que se reducirá las publicaciones de discurso de odio, pero también destacó que Facebook debe ser más analítico antes de retirar publicaciones sosptechosas de promover el racismo:

ကု@#လား ဆိုတဲ့ word ကို Facebook Team က manually ဖျက်တာမဟုတ်ဘူးလေ.. ဒီတိုင်းစကားလုံးကို တိုက်စစ်ပြီး auto လုပ်သွားတာ.. အဲတာကြောင့် status ကအကြောင်းရာဘာရေးရေး နားလည်မှာမဟုတ်.. ဖြစ်သင့်တာ တိုက်စစ်တဲ့ method (may be Regular Expression) မှာ ကပ်ရပ် စကားလုံးတွေပါ validate လုပ်ထားသင့်တယ် ကု@#လားထိုင်တို့ ကု@#လားပဲတို့ အစရှိသဖြင့်.. ကောင်းတဲ့အချက်ကတော့ မျိုးညစ်အကောင့်တွေ hate speech တွေလျှောက်ဖြန့်နေတာကို ကောင်းကောင်း သမလို့ရသွားတာပဲ.. မဘသ လဲဦးကျိုးသွားပြီ.. ခုချိန်မှာ nationalism ကို စောစောစီးစီးဦးချိုးပစ်သင့်နေဘီ..

El equipo de Facebook no está borrando manualmente la palabra «kalar». Filtra automáticamente la palabra. Es por eso que no entiende ningún estado que escribas. Lo que debe hacer es analizar cuidadosamente la publicación y validarla usando las palabras que la acompañan. Por ejemplo, «kalar htine» (silla) y «kalar pae» (arveja partida). Lo bueno es que esos sucios nacionalistas que difunden el discurso de odio tendrán una buena lección. Ahora es momento de restringir su nacionalismo.

Aunque la decisión puede enviar una fuerte señal a los que arrojan discurso de odio, la eficacia de esta estrategia puede no durar mucho. Las experiencias de plataformas de medios sociales en China, como Sina Weibo y WeChat, han demostrado que la censura de la palabra clave se convierte en un juego del gato y el ratón, donde los usuarios de medios sociales simplemente empiezan a usar una palabra nueva o la escriben diferente a la palabra censurada para seguir expresando sus opiniones.

El escritor Aung Kaung Myat describió cómo Facebook empezó a retirar sus publicaciones cuando simplemente notificaba a sus amigos que la palabra ‘kalar’ ya está prohibida en la red social:

…when I discovered this new policy of Facebook, I made a post telling my Facebook friends the word is banned. Ironically, my post was removed by Facebook and I was banned from liking, posting, and sharing content on Facebook for 24 hours because the post “doesn’t follow the Facebook Community Standards”.

…cuando descubrí esta nueva política de Facebook, publiqué un texto donde contaba a mis amigos que la palabra está prohibida. Irónicamente, el texto fue retirado y me prohibir marcar me gusta, publicar y compartir contenido durante 24 horas porque la publicación “no sigue las normas de la comunidad de Facebook”.

Facebook ha retirado numerosas publicaciones de personas que no tienen intenciones negativas o que simplemente trataban de mostrar sus opiniones contra el discurso de odio que usan nacionalistas radicales.

Patrick Murphy escribió que su publicación, que no se relacionaba con discurso de odio, fue retirada:

Publicación sin discurso de odio retirada por Facebook. En el texto, el autor da su opinión de por qué el nacionalismo extremo y el fundamentalismo religioso del país son malos.

Chan Myae Khine cree que Facebook debió hacer más antes de lanzar esta iniciativa, como consultar a la comunidad birmana de internet:

Facebook might have good intention to minimise racism in Burma through their platform but that's not how it works. Censoring such words will just bring more hatred among different communities. Plus, they seemed to initiate that without proper local context nor tech support hence banning words like «chair» and «pea curry». Even when they found out that they made mistakes, they don't attempt to rectify wrongly deleted posts. If only they could respect a bit more to 15 million user base that's generating a great revenue for them, it'd be great.

Facebook puede haber tenido buenas intenciones para reducifr el racismo en Birmania a través de su plataforma, pero así no funciona. Censurar esas palabras solamente traerá más odio entre diferentes comunidades. Además, parecen haberlo iniciado sin adecuado contexto local ni  asistencia tecnológica, por lo que bloquearon palabras como “silla” y “garbanzo”. Aun cuando supieron que habían cometido errores, no trataron de rectificar publicaciones eliminadas equivocadamente. Si pudieran respetar un poco más a sus 15 millones de usuarios que les genera grandes ingresos, sería grandioso.

La censura automatizada de Facebook ha hecho que los usuarios se burlen de su enfoque. En vez de tomarlo en serio, los usuarios se burlan de Facebook y escriben deliberadamente la palabra ‘kalar’ en contexto que no contiene discurso de odio para ver si retiraban sus publicaciones.

Acá algunas capturas de pantalla de publicaciones de Facebook que han sido retiradas, a pesar de no contener discurso de odio:

Usado con autorización.

Hemos borrado algo que publicaste.
Borramos la publicación de abajo porque no sigue las normas de la comunidad de Facebook
:
——-
Querido Facebook, regresa a tu casa. Estás borracho. Por el amor de Dios, ¿estás borrando las publicaciones del año pasado que contienen «esa palabra» también? No tuve ninguna mala intención cuando lo escribí. La propia publicación mostraba eso también. ¿Pero tuviste que borrarla de todas maneras? Buen trabajo. Bien hecho. Ahora, regresa a tu casa.

El texto en birmano dice: “Quiero sentarme en una silla y comer curry con arvejas partidas y ver una película india. Estoy probando si Facebook borrará la publicación que contiene kalar”. Captura de pantalla, usada con autorización.

La publicación dice «Si eres doctor, ¿curas personas?» Captura de pantalla, usada con autorización.

En los cinco últimos años, Myanmar ha visto el auge de fundamentalistas de ideología nacionalista y religiosa extrema que han estado usando medios sociales para ampliar sus voces e influencia. Se culpa al discurso de odio, entre otros, de agitar violencia comunitaria en Myanmar, sobre todo en el estado Rakhine donde los enfrentamientos entre musulmanes y budistas deplazaron a miles de personas.

Facebook fue criticado por no poder enfrentar el descontrolado discurso de odio que hay en sus páginas birmanas. Pero en lugar de simplemente decidir censurar la palabra ‘kalar’, debió haber revisado y aprendido de iniciativas cuyo objetivo es combatir el discurso de odio en línea en Myanmar según el contexto, y no en el código.

Inicia la conversación

Autores, por favor Conectarse »

Guías

  • Por favor, trata a los demás con respeto. No se aprobarán los comentarios que contengan ofensas, groserías y ataque personales.