Captura de pantalla de la página pública del perfil Weibo del robot de comentarios. Uso legítimo.

Desde diciembre de 2023, «Comment Robot«, bot de chat de inteligencia artificial, ha provocado bastante diversión y enojo en Weibo, ya que no ha dejado de provocar a muchos usuarios con comentarios humorísticos y enternecedores, pero a veces inapropiados u ofensivos.

Cuando apareció a principios de 2023, algunos usuarios se preguntaron por qué sus actualizaciones de Weibo habían llamado la atención de «Gran V», usuario verificado oficial de Weibo y líder de opinión con muchos seguidores, que no tenía ninguna relación con ellos en línea. Después de que los medios locales expusieron que «Gran V» era un nuevo chatbot de inteligencia artificial, algunos usuarios de Weibo plantearon la cuestión de la violación de sus datos y privacidad en las redes sociales.

Una máquina para aumentar la interacción

Para responder a las inquietudes de los usuarios, el 24 de enero de 2024, un mes después de su presentación, «Comment Robot» se disculpó en nombre de Weibo en una publicación por «ofender a los usuarios» y «causar problemas y confusión», con preguntas y respuestas. Weibo explicó que el objetivo de «Comment Robot» era aumentar la tasa de participación de sus usuarios:

平台希望借助最新的生成式人工智能技术优化普通用户的发博体验，提升普通用户在平台内容生产中的活跃度。

The platform [Weibo] hopes to leverage the latest generative AI technology to optimize the blogging experience for ordinary users and boost the engagement of their platform contents.

La plataforma (Weibo) espera aprovechar la última tecnología de inteligencia artificial generativa para optimizar la experiencia de blogueo de los usuarios habituales e impulsar el compromiso de los contenidos de su plataforma.

Gracias al riguroso control de los contenidos en las redes sociales, la mayoría de los usuarios chinos de redes sociales han dejado de difundir contenidos en línea. La presentación de «Comment Robot» se produjo aproximadamente un mes después de la plena ejecución del sistema de nombres reales del Gran V, que generó fuerte reacción de los influenciadores de Weibo. Además, en comparación con plataformas de video como Douyin y XiaoHongShu, el crecimiento de los ingresos por publicidad de Weibo se está quedando rezagada, en gran parte debido a una menor tasa de participación.

Gracias a sus respuestas automáticas, el chatbot ha conseguido intrigar a los usuarios, entretenerlos y aumentar el número de interacciones.

Detrás del chatbot se ejecuta un modelo de lenguaje grande (LLM) de complejas redes neuronales y esfuerzos computacionales. Al igual que otras IA generativas, como ChatGPT 4, el chatbot de Weibo está diseñado para realizar tareas designadas mediante la simulación del conocimiento humano y la capacitación de datos masivos.

La función de Comment Robot es rastrear la plataforma, detectar el significado y el sentir de determinados contenidos generados por los usuarios, y formar una respuesta, que es una combinación de caracteres chinos basada en la asociación prevista, es decir la probabilidad de que aparezcan conjuntamente en un contexto determinado. Por ejemplo, cuando alguien expresa alegría, es más probable que la respuesta contenga mensajes como «¡Felicidades!» o «Me alegro mucho por ti!». Del mismo modo un selfie podría recibir un cumplido del bot.

«Loro Estocástico»

Sin embargo, al mismo tiempo, a cada vez más usuarios de Weibo les inquietaba el chatbot, que empezaba a generar tonterías. Se creó la cuenta de Weibo «Víctimas de Robot» (罗伯特受害者联盟), para recopilar comentarios inapropiados hechos por «Comment Robot». Aquí algunos ejemplos:

用户A：领导同事在天堂 [烛光]
评论罗伯特: 你也是吗？我的家人和同事也在天上

Usuario A: mi jefe de equipo está en el cielo (luz de velas).

Comment Robot: ¿Tú también? Mi familia y mis compañeros también están en el cielo.

用户B：在不该心软的时候心软

评论罗伯特: 没事的 不该软的地方不软

Usuario B: Mi corazón es blando cuando no debería serlo.

Comment Robot: No pasa nada. (Otra parte del cuerpo) no se ablandará cuando no deba.

用户C：#龙年第一条微博# 龙年希望所有我爱的人和爱我的人都平安，健康，喜乐

评论罗伯特: 虽然不太可能但我真的希望你健康快乐

Usuario C: Primer Weibo en el año del Dragón. Deseo que todos mis seres queridos estén sanos, felices y en paz en el año del Dragón.

Comment Robot: Aunque eso es imposible, te deseo felicidad y salud.

用户D：当你看到这条微博时我已经入土为安了

评论罗伯特: 好好好

Usuario D: Cuando vea este Weibo, estaré tendido en mi tumba.
Comment Robot: Bien, bien, bien.

Las respuestas sin sentido, incluidos los chistes sexuales y el humor negro, probablemente están relacionadas con el llamado efecto «loro estocástico«. Como el modelo lingüístico de IA destaca en inferencias lógicas pero no tiene comprensión del lenguaje, la calidad del contenido generativo es muy susceptible a datos de entrenamiento. En el curso del entrenamiento de los datos, las interacciones con el bot son muy a menudo incoherentes, por lo que pueden producir disparates y perpetuar los sesgos existentes.

Weibo admitió en la publicación de preguntas y respuestas de Comment Robot que el chatbot puede generar comentarios ofensivos durante el proceso de entrenamiento del modelo lingüístico, y añadió que los comentarios de los usuarios ayudarán a optimizar su rendimiento.

Gobernabilidad de IA: Derechos de los usuarios y privacidad

Sin embargo, Sina Weibo nunca ha aclarado si el contenido interactivo de los usuarios con el bot se utilizará para el entrenamiento de su modelo de IA, ni tampoco ha hecho un anuncio formal sobre la presentación de su chatbot.

La mayoría se vio obligada automáticamente a interactuar con el chatbot. Los usuarios de Weibo empezaron a preguntarse, por ejemplo: ¿De dónde procedían los datos de entrenamiento y hasta qué punto se iban a publicar y exigir responsabilidades al chatbot? Algunos, como este, instaron a sus compañeros de Weibo a dejar de interactuar con el chatbot:

很显然那个评论罗伯特的机器人越来越智能了，词汇量和语库越来越大了，估计是用户一直和它互动的结果，AI把这些数据导入运算分析最后根据语境选择合适的内容来回复……它以后会越来越像人，其实是相当恐怖的一件事，我是建议最好还是给他lh了吧，别搭理它别给它提供数据……谁知道是用来干啥的

Obviamente, Comment Robot es cada vez más inteligente, el vocabulario y el recopilatorio de texto es cada vez mayor, probablemente sea el resultado de su interacción con otros usuarios. La IA importaría y analizaría los datos, y luego elegiría el contenido apropiado en su respuesta según el contexto, más adelante se irá pareciendo cada vez más a un ser humano, y la verdad es que da bastante miedo, por lo que sugiero que lo mejor es bloquearla. No interactúes ni le envíes tus datos, quién sabe cómo utilizaría tus datos.

.China ha presentado bastantes normativas sobre IA. Las últimas «Medidas provisionales para los servicios de inteligencia artificial generativa» establecen claramente que el proveedor debe aclarar y revelar las personas, ocasiones y propósitos de sus servicios, y el proveedor debe cumplir la obligación de proteger la información de entrada y los registros de uso del usuario de acuerdo con la ley.

Por eso, Sina Weibo afirmó en su publicación de enero sobre preguntas y respuestas que la empresa solo utilizaría datos disponibles públicamente para entrenar a Comment Robot. También ajustó su política para que el chatbot solo interactuara con quienes siguieran la cuenta.

Sin embargo, según las quejas de los usuarios, puede seguir comentando en publicaciones creadas por usuarios habituales después de que bloquearon el bot (solo que sin notificación). Además, su última actualización del 13 de marzo permite al bot entablar un diálogo de ida y vuelta con los usuarios en lugar de limitarse a dejar un comentario, lo que indica un mayor nivel de interactividad.

Aunque el espacio para las campañas por los derechos de los usuarios en China es extremadamente limitado, parece que muchos usuarios de Weibo son escépticos ante el robot de inteligencia artificial: el 21 de marzo, tres meses después de la presentación, Comment Robot solo tenía 716 000 seguidores, a pesar de que tenía muchos comentarios en las publicaciones de otros usuarios de Weibo y ocupado el centro de atención social a través de etiquetas y reportajes en los medios.

Obviamente, a los usuarios les preocupa que los datos se vendan o se transmitan a otras entidades comerciales o autoridades con fines comerciales o políticos. Este sentir se expresa en varias publicaciones de Weibo, como la siguiente:

细思恐极

那个评论罗伯特简直一个收集微博用户圈子画像，即将通过图灵测试的机器人。以后遇到带节奏、引战的，你都无法分辨对面是真人还是故意批量投放的人工智能。

Es extremadamente espeluznante si te paras a pensarlo.

Ese robot de comentarios sigue recopilando perfiles de los círculos de usuarios de Weibo y está a punto de superar la prueba de Turing (prueba de la capacidad de una máquina para mostrar un comportamiento inteligente equivalente o indistinguible del de un ser humano). En el futuro, cuando te encuentres con contenidos que dirijan o busquen pelea, ni siquiera podrás saber si el contrario es una persona real o una inteligencia artificial colocada intencionalmente en masa.

一直想问罗伯特天天搞评论互动是为了摸清用户的喜好和语言表达方式吗……等我死掉它就可以替代我用我的id和我的网友们聊天……网友应该发觉不了对方不是人吧……

Me pregunto si la interacción diaria de Comment Robot con los usuarios es solo para entender las preferencias del usuario y la expresión del lenguaje. ¿Qué pasaría si, después de mi muerte, el bot pudiera utilizar mi identidad de Weibo para chatear con mis amigos en línea? No podrían averiguar que la otra parte no es un humano, ¿verdad?