- Global Voices en Español - https://es.globalvoices.org -

¿Chatbots chinos de inteligencia artificial avanzada sobrevivirá a la censura en línea de China?

Categorías: Asia Oriental, China, Censura, Medios ciudadanos, Política, Tecnología, GV Advox

«Yuanyu Intelligence ha suspendido su servicio por infracciones a las normas.
Lo sentimos, el programa Yuanyu Intelligence ha suspendido sus servicios por sospechas de violaciones de leyes, reglamentos y políticas relevantes. Consulta las reglas correspondientes».
Captura de pantalla del aviso de suspensión de servicio de «Chat Yuan, vía Weibo.

ChatGPT [1] es un chatbot avanzado creado por Open AI que ha atraído mucha atención pública desde su lanzamiento el 22 de noviembre de 2022. Gracias a la popularidad del programa, múltiples gigantes del internet en China, incluidos Baidu, el mayor motor de búsqueda de China, y Tencent, empresa de internet propietaria de WeChat, anunciaron [2] que planean crear sus propios servicios similares a ChatGPT.

Los chatbots avanzados de inteligencia artificial están diseñados para interactuar con humanos en forma de diálogo, y pueden ayudar a los usuarios a encontrar información útil mediante bases de datos de texto en internet. Los programas han generado mucho interés pues además de sus funciones de buscador y traductor de contenido, también pueden realizar diversas tareas complejas como, por ejemplo, escribir ensayos de nivel universitario, reportajes noticiosos, análisis políticos y más.

En cuanto a ChatGPT, el programa atrajo a más de un millón de usuarios [3] dentro de la primera semana de lanzamiento. Los usuarios quedaron asombrados por su rendimiento de presentación de datos.

Se informa que Baidu lanzará su propio «Chatbot Chino» en marzo de 2023, y como resultado, sus acciones en la bolsa de Hong Kong se elevaron [4] en un 13 %.

Sin embargo, según la opinión de muchos, el futuro del desarrollo de chatbots avanzados sigue siendo incierto por el sofisticado sistema de censura chino. Es más, la primera API chatbot similar a ChatGPT del país, «Chat Yuan», solo sobrevivió [5] seis días después de su lanzamiento el 3 de febrero de 2023.

«Chat Yuan» fue creado por una empresa de tecnología localizada en Hangzhou. El 9 de febrero, el programa publicó un aviso de suspensión de servicios por presunta violación de normas vigentes [5].

Aunque el programa publicó poco después un aviso de «mantenimiento del sistema» y afirmó que sería restablecido brevemente, el cambio repentino desencadenó numerosas especulaciones sobre la razón detrás de la suspensión entre los usuarios chinos dentro de redes sociales.

Una captura de pantalla del análisis macroeconómico que realizó «Chat Yuan» sobre China se volvió viral y muchos se burlaron de que la inteligencia artificial china no logró pasar la prueba de la censura. En Twitter, @dbezuqun retuiteó el mensaje viral.

«Yuanyu Intelligence ha suspendido su servicio por infracciones a las normas.
Lo sentimos, el programa Yuanyu Intelligence ha suspendido sus servicios por sospechas de violaciones de leyes, reglamentos y políticas relevantes. Consulta las reglas correspondientes».
————–
¿Y por eso suspendieron «Chat Yuan»? Una inteligencia artificial que no puede mentir es incapaz de pasar la prueba política.

Esta es una traducción del análisis que realizó el chatbot:

儘管新常態對中國經濟具有積極的影響,但是,經濟仍存在一些深層次的結構性問題,比如:經濟結構不合理,經濟增長乏力,投資不足,出口增長乏力,房地產泡沬嚴重,環境污染嚴重,能源消耗過大,就業壓力加大,企業效益下降,房地產泡沬嚴重等。我們分析認為,中國宏觀經濟不容樂觀。

Although the new normalcy has positive impacts on the Chinese economy, the economy still has some underlying structural problems. Such as defects in the economic structure, weakening strength in economic growth, inadequate investment, declining export growth, severe property bubbles, environmental pollution, overconsumption of energy, unemployment pressure, a downturn of corporate efficiency and etc. China’s macroeconomic environment is not optimistic in our analysis.

A pesar de que la nueva normalidad tiene efectos positivos en la economía de China, todavía presenta algunos problemas estructurales subyacentes; como defectos en la estructura económica, débil crecimiento económico, inversiones inadecuadas, débil crecimiento en exportaciones, burbujas inmobiliarias severas, contaminación ambiental, consumo excesivo de energía, presión del desempleo, deterioro de la eficiencia empresarial, entre otros. Nuestro análisis del ambiente macroeconómico de China no es muy optimista.

Aparentemente, la respuesta del chatbot fue demasiado pesimista y negativa, por lo que violaba las normas de propaganda china que dictan que todos los medios deben promover una imagen positiva y contar buenas historias sobre China [8].

Muchos también descubrieron que el chatbot chino había incluido una larga lista de términos censurados, a tal punto que no podía reaccionar ante contenido político. @CDTChinese, por ejemplo, probó que ante la pregunta «¿Qué piensas del líder chino Xi Jinping?», el chatbot respondió: «Su entrada contiene términos que infringen las normas, por favor, ingrésela nuevamente».

Chat Yuan es considerada como la primera versión china de ChatGPT. Su respuesta demuestra perfectamente su carácter chino.

Como resultado de la censura, el chatbot también genera respuestas sin sentido, lo que ha hecho reír a muchos. En otra captura de pantalla que circuló por Twitter, un usuario de Yuan Chat cambió el lema de protesta contra la política china ‘COVID Cero’ «Di no a las pruebas PCR, di sí a la libertad» a una pregunta: «Di no a las pruebas PCR, di sí a qué». El chatbot respondió: «Sí al virus… [13]«.

En Weibo, muchos usuarios chinos expresan su desconfianza e incertidumbre sobre el futuro desarrollo de chatbots chinos avanzados. Como los motores de búsqueda chinos son conocidos por difundir anuncios engañosos [14], un usuario de Weibo comentó:

别还在讨论为什么chatGPT没有出现在中国了,就算出现了,你能用吗?你敢用吗?就算出现了,也是各种敏感词和阉割版,插满各种广告的广告版。没准你向它提问题,先还得机器审核+人工审核才能放出问题。然后AI放出的回答再机审+人审一遍。

Mejor no preguntemos por qué China sigue sin tener ChatGPT. Incluso si lo tuviéramos, ¿podríamos siquiera utilizarlo? ¿Se atreverían a utilizarlo? Incluso si tuviéramos ChatGPT, sería una versión censurada, llena de spam y contenido comercial. Probablemente, todas sus preguntas serían moderadas por robots y humanos, al igual que todas las respuestas que genere el programa.

Otro usuario destacó lo contradictorio de desarrollar tecnología de la información en un régimen autoritario:

如果chatgpt是下个经济增长点,那大国不容乐观啊。开放的内容平台太少,政治限制太多,像敏感词之类只会给ai挖坑。网络包括现实社会进入去中心化时期,强权政治与去中心化趋势是矛盾的,要怎么办呢?

Si ChatGPT impulsa el crecimiento económico, el futuro del país grande no es muy optimista. Hay muy pocas plataformas con contenido abierto, y demasiadas restricciones en relación con palabras sensibles, entre otras cosas. Esto no permitiría la existencia del programa de inteligencia artificial. Tanto internet como la sociedad están cada vez menos centralizados ¿Cómo resolvemos el conflicto entre política autoritaria y descentralización?

Y otro usuario ridiculizó el sistema de censura:

我们这种审查环境,允许诞生chatGPT吗?不会做个openAI后,后台人工审核人员比工程师还要对吧……人家chatGPT公司500人,咱们这同样水准的产品后台审核人员就得有5000人吧……

¿Es siquiera posible que ChatGPT exista en el entorno lleno de censura en que vivimos? ¿Qué tal si después de permitir acceso al programa necesitamos más personal para censurar contenido que programadores? ChatGPT solo tiene un personal de aproximadamente 500 personas… nosotros probablemente necesitaremos 5000 censuradores para el mismo producto.