Imagen de Ibrahim Kizza para APC. Usada con autorización.

Este artículo es parte de la serie «No le preguntes a la IA, pregúntale a un compañero», colaboración entre Global Voices, la Asociación para el Progreso de las Comunicaciones y GenderIT. Esta serie busca destacar la importancia de compartir el conocimiento entre pares, como se hizo durante décadas. Puedes seguir las series en APC, GenderIT y Global Voices.

Como uno de los países más criticados por su su uso de IA para vigilar y restringir las libertades de sus ciudadanos, China no puede ofrecer una respuesta directa a cómo se podría desarrollar una perspectiva enfocada en derechos humanos con IA. Sin embargo, su abierto uso de tecnología de IA y sus ambiciones de dominar el mercado global de IA pueden servir como un caso de estudio para la creciente relación entre el sector privado y el Estado, como máquina y sociedad.

En febrero de 2026, el ingeniero español Sammy Azdoufal descubrió que podía tomar el control de 7000 aspiradoras inteligentes, ver imágenes en tiempo real de los hogares y escuchar sonidos ambientales a través de cámaras en directo de las máquinas, y obtener la ubicación exacta de las viviendas a través de las direcciones IP simplemente con desmontar la conexión entre su recién comprada aspiradora DJI Romo y el mando de su PlayStation.

Aunque la compañía de China continental arregló la filtración de seguridad rápidamente, el incidente destacó lo fácil que puede penetrarse la vigilancia con tecnología IA en nuestra vida diaria y los riesgos que conlleva.

Vigilancia con IA y la tecnología bélica conllevan amenazas universales

Las antes mencionadas aspiradoras inteligentes no están disponibles en el mercado estadounidense pues el fabricante DJI fue calificado como «compañía militar china» en 2022 y añadido a la lista negra del Pentágono por riesgos de seguridad nacional.

Con este contexto, los debates sobre vigilancia con tecnología IA y los riesgos que la acompañan han estado mayormente limitados a China, aunque esta tecnología es universal y afecta a personas en todo el mundo.

China es pionera en aprovechar tecnología de vigilancia sofisticada para reforzar su represiva gobernanza, e incluso ha exportado las herramientas para otros Estados autoritarios, como pudieron documentar ampliamente los medios internacionales. La experiencia china, en el llamado manejo social de los uigures en Sinkiang, China, y el sistema nacional de control del COVID-19, muestra al mundo que la supervisión humana en nombre de la gestión de la red y la aplicación de la tecnología de vigilancia —reconocimiento facial, sistema de crédito social, geolocalización y rastreo de datos en línea— trabajan juntas para mantener un ambiente de vigilancia de proximidad que logra evitar posibles actos de desestabilización. Esta realidad orwelliana demuestra que cuando se equipa al Estado con un poderoso motor de IA, este puede consolidar su poder a costa de la libertad de reunión, expresión y movimiento.

El mercado global de la tecnología represiva

Tal tecnología represiva tiene un mercado de alcance inimaginable. En China, los sistemas de reconocimiento facial con IA se han utilizado para emitir multas a peatones imprudentes y por estacionamiento ilegal, procesar pagos en línea y fuera de línea, y dar seguimiento al desempeño en clase de estudiantes, entre otras cosas.

Aunque los Estados democráticos son escépticos de la aplicación china de vigilancia con IA, esas perspectivas solo los empujan a comprar herramientas de IA similares a fuentes no China. La Policía del Reino Unido, por ejemplo, recientemente compró tecnología de reconocimiento facial con IA que utiliza la inteligencia israelí para identificar y rastrear civiles palestinos en Gaza. Cincuenta máquinas de reconocimiento facial a través de IA se desplegarán a nivel nacional para identificar y rastrear personas de interés para la Policía. En Estados Unidos, la tecnología de IA se ha utilizado también en la vigilancia masiva y el arresto de inmigrantes indocumentados y la reciente guerra con Irán.

En el frente digital, el impacto de la IA en los medios y el ecosistema de información ha sido devastador. La censura integrada y el sesgo político de DeepSeek, IA generativa china, para difundir una narrativa favorable a China ha recibido muchas críticas.

Al mismo tiempo, las IA generativas occidentales también son útiles para difundir propaganda en internet. Según revelaron los informes de transparencia de OpenAI, operadores de información rusos y chinos han utilizado ChatGPT para analizar la opinión pública y diseñar contenido para sus audiencias objetivo. Recientemente, en medio de la guerra entre Estados Unidos e Israel con Irán, la propaganda bélica, generada con IA mediante videos deepfake, también ha inundado las principales plataformas de redes sociales.

Una minoría de operadores de desinformación ahora pueden manipular la percepción de la realidad de la mayoría gracias a sus asistentes de IA.

La necesidad de reequilibrar el poder

China también tiene una lección clave para el mundo acerca de gobernanza con IA. Desde 2022, ha aprobado una serie de leyes y regulaciones, que incluyen a las siguientes normativas: disposiciones sobre algoritmos de recomendación (2022), disposiciones sobre la administración de servicios de síntesis profunda (2023), medidas provisionales para gestionar servicios de inteligencia artificial generativa (2023) y medidas de etiquetado de inteligencia artificial (2025) para evitar el uso ilegal y malicioso de la IA y asegurar que el contenido generado por máquinas esté de acuerdo con los valores fundamentales del socialismo chino. Se han tratado los derechos de los usuarios sobre la protección de datos personales, el consentimiento y el acceso, con requisitos adicionales sobre responsabilidad corporativa para mejorar la transparencia del algoritmo y las medidas no discriminatorias y no adictivas.

Sin embargo, el objetivo de las leyes es proteger la seguridad nacional, el orden público y la ideología política, no hay restricción sobre el poder del Estado. En las redes sociales chinas, es común ver usuarios quejarse de que la Policía ha golpeado sus puertas simplemente porque compraron algo sospechoso, como un dron para tomar fotos. El sistema de créditos sociales, junto con la censura en línea, el sistema de gestión de la red y otros sistemas de control social rastrean la actividad de los usuarios en línea e incluyen transacciones financieras, conexiones sociales y el discurso, y restringen el acceso a servicios digitales y públicos, como sistemas de pago en línea y compras relacionadas con viajes, cuando sus puntajes crediticios son bajos, y se añaden a los registros de judiciales chinos de «lista de personas culpables de actos deshonestos».

Los deberes impuestos por las leyes en el sector empresarial parecen justos y sanos. Sin embargo, hay muy pocas organizaciones de sociedad civil independientes para supervisar al sector privado y asegurar que las empresas de tecnología han implementado fehacientemente las medidas de protección impuestas por la ley. Como resultado, las violaciones de seguridad y filtraciones de datos personales por productos de IA mal diseñados, como la aspiradora de DJI Romo, han persistido en los últimos años. En 2025, una filtración importante de datos expuso los registros de miles de millones de usuarios chinos, incluidos nombres, números de identificación, contraseñas y detalles financieros y bancarios relacionados con sus cuentas de redes sociales. Los estafadores pueden explotar estos registros para conspirar contra los afectados.

A pesar de los riesgos de seguridad, los ciudadanos de China continental incorporaron rápidamente la tecnología emergente, sobre todo la IA. El ejemplo más reciente, ocurrido a principios de marzo en las principales ciudades chinas, fue la prisa por instalar OpenClaw, un bot de IA codificado por el programador austríaco Peter Steiberger que integra otros macromodelos lingüísticos como DeepSeek y Claude. El sistema se ejecuta en un computador local y guarda la información de manera local. Se suman a la tendencia otras compañías chinas, como Tencent, ByteDance y Xiaomi, que presentaron productos similares. Tal fanatismo tecnológico, derivado de la política del Gobierno chino de integrar tecnología avanzada en la economía y de la ansiedad de las personas de quedarse atrás en medio de la rápida innovación tecnológica, convierte a las personas en fanáticas y seguidores de un leviatán, al que alimentan con su tiempo, energía, deseos, ideas y datos sin tener idea sobre quien lo controla y a dónde puede llevarlos.

Aunque la protección de los derechos de los consumidores y la transparencia se han escritos en las leyes chinas de IA, la protección de los derechos humanos sigue siendo pobre, dado que muchos no están al tanto de sus derechos y de los potenciales daños que puede causar el uso abusivo y malicioso de la tecnología. En su lugar, la mayoría de los ciudadanos de China continental, en ausencia de opciones, han aceptado la tecnología de vigilancia, como las omnipresentes cámaras de seguridad con reconocimiento facial, como parte normal y conveniente de la vida pública. El mecanismo del cambio está bloqueado.

Podemos observar en la distopía china de IA que las personas no controlan la tecnología, sino que están sometidos a un régimen que ve a la tecnología como un medio para expandir y consolidar el poder económico y político del Estado. Nos muestra que el eje de la perspectiva de derechos humanos de la IA debería dedicarse a reequilibrar el poder entre el estado corporativo, la máquina y las personas mediante un marco de decisiones que vuelva a poner a las personas en el centro, y desarme al fanatismo tecnológico con investigaciones centradas en las personas y la deliberación pública, prácticas culturales reflexivas y educación para la humanidad.