Imagen creada por Oiwan Lam a través de Canva Pro.

Desde su presentación en enero de 2025, DeepSeek R1, el modelo chino de inteligencia artificial (IA) generativa, ha transformado lo que conocíamos sobre la IA, la rentabilidad y la competencia internacional. Algunos incluso afirman que su creación ha contribuido a equilibrar el campo del desarrollo de la IA. El Partido Comunista Chino ha impulsado su uso a nivel mundial, lo que ha facilitado que esta tecnología de punta esté accesible para el Sur Global. Sin embargo, su expansión conlleva riesgos ocultos y consecuencias relacionadas con los derechos humanos.

Antes, los expertos creían que las más avanzadas innovaciones tecnológicas en IA se generarían en los países más ricos y serían impulsadas por las empresas más poderosas del mundo, por los altos costos de hardware que conlleva su desarrollo. Durante una visita a India en 2023, Sam Altman, fundador de OpenAI, señaló que entrenar sistemas fundacionales de IA con un presupuesto de 10 millones de dólares sería inútil: «Pueden intentarlo, pero sería una pérdida de tiempo tratar de competir con nosotros».

Sam Altman – founder of OpenAI and ChatGPT – is in India and VCs are asking some tough questions to him

pic.twitter.com/Mjh7pNjOLo

— Amitabh Verma (@amitabh26) June 8, 2023

Sam Altman, fundador de OpenAI y ChatGPT, está en India y los inversionistas de capital de riesgo están haciéndole algunas preguntas difíciles.

No obstante, los comentarios de Altman se han venido abajo tras el éxito de DeepSeek, por lo cual el presidente ejecutivo ha tenido que admitir que la IA china «es un modelo impresionante, en especial por todo lo que puede ofrecer a ese precio».

La IA de origen chino ha despertado el interés de los países en vías de desarrollo y ha abierto el camino para que China se posicione como un socio tecnológico clave para los países en desarrollo, mientras promueve la narrativa de reducir las desigualdades en torno a la IA en las regiones menos desarrolladas.

Además, el uso estratégico de IA en el ámbito de las relaciones exteriores, mediante iniciativas como la Ruta de la Seda Digital y la propuesta para establecer la Organización Global de Cooperación de IA, podría reorganizar significativamente las estructuras de poder regional a favor de China.

La naturaleza de código abierto de DeepSeek R1 permite que los programadores puedan descargar, modificar y ajustar el modelo para que se adapte a las condiciones locales. Es posible adaptarlo a distintas lenguas regionales, como el suajili, el hausa o el amhárico, o también a entornos económicos específicos.

Por ejemplo, el Gobierno de Indonesia planea elaborar su propio modelo local de DeepSeek para usarlo en los sectores públicos y privados.

Estos lazos entre países no solo permiten el crecimiento tecnológico, también influyen en el posicionamiento geopolítico de los Estados.

Algunos analistas consideran que la creciente dependencia de la tecnología, las normas y los flujos de datos chinos en África y Asia altera la dinámica de poder, y la aleja de Europa y Estados Unidos. También creen que puede influir en el equilibrio de los foros multilaterales y de los organismos internacionales, como Naciones Unidas.

Crear narrativas internacionales

Sin embargo, DeepSeek, ya sea que se utilice en China o en el extranjero, alinea las respuestas de su bots de chat con las opiniones oficiales del Partido Comunista Chino. Aunque varios medios han publicado informes sobre censura o alteración de respuestas a temas políticos delicados que ofrece el modelo, el verdadero peligro no radica en la retención o la omisión de información.

Según Alex Colville, investigador de China Media Project (CMP), la creación de narrativas con IA generativa es una forma sofisticada de manipular la opinión pública. A continuación, un ejemplo extraído del informe del CMP:

When asking questions about natural disasters in China, for example, the model treats Chinese government data and sources as infallible, and portrays the leadership’s response as being effective, transparent and humane. Meanwhile, dissenting voices are either minimized, omitted entirely, or explained away as “biased” or lacking understanding.

Cuando se le pregunta sobre desastres naturales en China, el modelo considera los datos y las fuentes del Gobierno chino como infalibles, y presenta las respuestas de los líderes políticos como efectivas, transparentes y humanas. Por otro lado, las voces discrepantes son minimizadas, quedan totalmente omitidas o descartadas por considerarlas «sesgadas» o sin comprensión.

En otras palabras, el modelo de lenguaje de gran tamaño de DeepSeek puede convertirse en un medio para transmitir las narrativas políticas de Pekín, así como para crear otras narrativas sobre cuestiones delicadas como los derechos humanos, Taiwán, el desarrollo económico y su papel en el comercio internacional.

Y lo que es aún peor, estas narrativas políticas pueden exportarse a otros países si se adapta el modelo de lenguaje de gran tamaño. El investigador del CMP advierte:

But if even cutting-edge tech companies in developed nations, for all their resources and funds, are struggling to train propaganda out of DeepSeek, what hope do start-ups in the Global South have?

Si hasta las empresas de tecnología de punta en los países desarrollados, con todos sus recursos y fondos, están teniendo problemas para quitar la propaganda de DeepSeek ¿qué les espera a las empresas emergentes en el Sur Global?

DeepSeek ha generado preocupación en países como Australia, Corea del Sur y Taiwán, que han prohibido el uso de DeepSeek en los dispositivos gubernamentales. Esto debido al riesgo de seguridad y la falta de transparencia de DeepSeek en la gestión de la información personal de sus usuarios.

Más allá de DeepSeek, propaganda china impulsada por la inteligencia artificial

Muchos informes han mostrado que China ha utilizado DeepSeek y a otras tecnologías de IA para crear y difundir propaganda, como deepfake y contenido manipulado, con el fin de tener influencia sobre la opinión pública y sembrar la discordia entre países.

Brett Goldstein y Brett Benson de la Universidad Vanderbilt, expertos en seguridad de datos, señalaron que Golaxy, empresa de China continental impulsada por IA, además de emplear IA para controlar la opinión pública, también la utiliza para recolectar grandes cantidades de datos de las plataformas de redes sociales chinas y occidentales, y para crear “redes de bots que simulan ser humanos” y “perfiles psicológicos para dirigirse a personas específicas”.

Si bien la empresa negó estas afirmaciones, en un artículo de opinión de The New York Times los investigadores advirtieron:

A.I.-driven propaganda is no longer a hypothetical future threat. It is operational, sophisticated and already reshaping how public opinion can be manipulated on a large scale.

La propaganda impulsada por IA no es más una futura amenaza hipotética. Es operativa, sofisticada y ya está redefiniendo cómo se puede manipular la opinión pública a gran escala.

Los documentos filtrados revelan que, en 2020, cuando la ciudad aprobó la ley de seguridad nacional, la empresa operó en Hong Kong e «identificó a miles de participantes y líderes de opinión entre 180,000 cuentas de Twitter de Hong Kong». Luego, a través de sus redes de bots, “contrarrestaron lo que percibían como mentiras o ideas erróneas”. Una situación similar se detectó durante las elecciones generales de Taiwán de 2024.

Los dos investigadores explicaron cómo la propaganda impulsada por IA ha manipulado masivamente la opinión pública en las redes sociales:

By extracting user data and studying broader patterns, A.I. can build synthetic messaging designed to appeal to a wide spectrum of the public. It can adapt to a user’s tone, values, habits and interests, according to the documents. Then it can mimic real users by liking posts, leaving comments and pushing targeted content.

Mediante la recopilación de los datos de los usuarios y el análisis de los patrones generales, la IA puede producir mensajes sintéticos diseñados para captar la atención de una gran parte del público. Según los documentos, puede adaptarse al tono, los valores, los hábitos y los intereses del usuario. Con eso, puede simular ser un usuario real que da «me gusta» a publicaciones, deja comentarios y promueve un contenido con un objetivo específico.

Un informe de 2024 titulado Same Targets, New Playbooks, publicado por Microsoft Threat Intelligence, también señaló que China, a través de contenido generado por IA, ha intensificado sus campañas virtuales de influencia en la región Asia-Pacífico. El informe indicaba:

The influence actors behind these campaigns have shown a willingness to both amplify AI-generated media that benefits their strategic narratives, as well as create their own video, memes, and audio content. Such tactics have been used in campaigns stoking divisions within the United States and exacerbating rifts in the Asia-Pacific region — including Taiwan, Japan, and South Korea.

Los actores de influencia detrás de estas campañas han demostrado estar dispuestos a difundir contenido generado por IA que beneficie sus discursos estratégicos, y a crear sus propios videos, memes y audios. Esas tácticas se han utilizado en distintas campañas que han generado divisiones dentro de Estados Unidos, y provocado rupturas en la región Asia-Pacífico, por ejemplo, en Taiwán, Japón y Corea del Sur.

Exportación de la tecnología de vigilancia

Además de los modelos de lenguaje de gran tamaño, China también ha promocionado la exportación de otras tecnologías de IA, como reconocimiento facial. Algunos han manifestado sus inquietudes sobre el impacto de la tecnología de vigilancia. Por ejemplo, Anu Bradford, profesora universitaria de Derecho, expresó su preocupación en su estudio sobre el autoritarismo digital chino, en el que señaló que mediante la exportación de la tecnología digital y de sus infraestructuras, el Gobierno chino promoverá sus normas reglamentarias y prácticas de vigilancia alrededor del mundo:

Many receiving countries have welcomed Chinese technologies and accompanying regulatory standards as a path toward digital sovereignty and development. For authoritarian governments, an additional motivation has been to gain access to surveillance technologies that they eagerly use toward illiberal ends.

Muchos países receptores han recibido con agrado las tecnologías chinas y las normas reglamentarias asociadas, las consideran un camino seguro hacia la soberanía digital y el desarrollo. Para los Gobiernos autoritarios, una motivación adicional ha sido obtener acceso a tecnologías de vigilancia que utilizan con entusiasmo para fines iliberales.

Para los países en vías de desarrollo, la tecnología de vigilancia a bajo costo que ofrece China podría resolver varios problemas, por ejemplo, la lucha contra la delincuencia. Sin embargo, tal como señala Sheena Chestnut Greitens, experta en relaciones públicas, se necesitan más investigaciones para determinar su impacto en las instituciones democráticas, las libertades civiles y las dinámicas de poder a nivel mundial.

Al ofrecer sistemas adaptables y de bajo costo como DeepSeek R1, Pekín se está consolidando como un socio tecnológico clave para el Sur Global. Mediante estas tácticas, dicho Estado autoritario no solo está desarrollando su competencia digital, sino que también, al situarse como líder de la gobernanza de IA a nivel mundial, posiblemente está influyendo en el posicionamiento político de los países.

En la actualidad, Estados Unidos y China compiten por la gobernanza de la IA, en especial, para proteger sus intereses económicos internacionales. Mientras tanto, los llamados de la sociedad civil para desarrollar un marco basado en los derechos humanos que guíe la gobernanza internacional de la IA han quedado relegados. Sin una intervención apropiada, es posible que presenciemos una normalización a nivel mundial del uso de IA para fines de vigilancia y propaganda.