Captura de pantalla del Laboratorio de Innovación del Gobierno Inteligente de Hong Kong . Uso autorizado.

Esta publicación forma parte de la serie especial de Global Voices de abril de 2026: «Perspectivas humanas sobre la IA«. Esta serie ofrecerá información sobre cómo se utiliza la IA en países de la mayoría global, cómo su uso e implementación afectan a las comunidades, qué podría significar este experimento de IA para las generaciones futuras y mucho más. Puedes apoyar esta cobertura con una donación.

Doy clases y vivo en el campus de una universidad pública en Hong Kong. Al comienzo de cada año académico se repite de manera constante la advertencia sobre estafas con carteles en la universidad, correos electrónicos, avisos para estudiantes, recordatorios de la institución, carteles en las estaciones de metro y titulares de periódicos. Hay que tener cuidado con enlaces sospechosos, llamadas fraudulentas, solicitudes de pago falsas, identidades manipuladas y mensajes que suenan urgentes o tan convincentes como para hacernos dudar. Por ejemplo, se supo que a un trabajador lo engañaron con una videollamada con deepfake en la que, supuestamente, el director financiero de su empresa le pedía transferir millones. Eso motivó que se intensificara el mensaje de que la IA ha llegado para quedarse y que no estamos preparados.

Me resulta irónico que uno de los grupos demográficos más afectados por este mensaje de posible estafa con IA sean los jóvenes estudiantes, a quienes a menudo se describe como nativos digitales y que, por instinto, están familiarizados con el lenguaje de las plataformas, los dispositivos y la vida en línea. Algo ha cambiado en nuestras prácticas digitales, y la cautela se ha convertido en la palabra de moda porque ya no podemos confiar en que lo que vemos realmente se lo que es. Y no creo que se trate solo de la proliferación y persistencia de noticias falsas y desinformación. Se trata de las condiciones de la confianza: no solo en nuestra capacidad para confiar en la información digital que encontramos, sino también en nuestra capacidad de confiar en nuestro propio juicio en las interacciones cotidianas con la IA.

Cartel informativo contra estafas dirigido a estudiantes en Hong Kong. Captura de pantalla del Centro de Coordinación contra el Engaño. Uso autorizado.

Los debates previos sobre la desinformación digital se centraban en la circulación: un rumor que se propagaba con demasiada rapidez, una imagen manipulada que se volvía viral, una afirmación falsa que se arraigaba antes de poder corregirse. Eran problemas graves, pero aún partían de la base de que la falsedad era algo insertado en un entorno que era fácil de leer. Con la IA generativa, hemos entrado en un espacio donde la verosimilitud, no la falsedad, se ha vuelto eficiente, escalable, omnipresente y normal. Inunda el mundo digital con contenido que no es falso a primera vista, pero tampoco del todo fiable y esto produce una especie de fatiga cognitiva y resignación.

Las sociedades humanas pueden sobrevivir al desacuerdo, pero aún no hemos aprendido a convivir con la distorsión constante. Lo que se erosiona no es solo la confianza en la información que recibimos, sino también en nuestra capacidad para lidiar y negociar con estas verosimilitudes de la IA generativa. El reciente énfasis de Hong Kong en medidas contra el fraude demuestra que las estafas con simulaciones y otras formas de engaño digital son ahora tan graves que la respuesta ahora incluye sistemas técnicos, como scameter+ , diseñados para identificarlas o interrumpirlas. Las autoridades financieras han descrito este escenario como un nuevo terreno en el que la IA debe usarse para combatir la IA. Esto significa que la confianza ya no se restablece con reconocimiento humano, sino que depende cada vez más de la verificación técnica superpuesta a la producción tecnológica.

Esta es la paradoja cívica que subyace en el momento actual. Cuanto más se impone la verosimilitud sintética y artificial al juicio cotidiano, más se especializa la verificación. A las instituciones de confianza o a las personas de confianza que conocemos por proximidad y relación las están reemplazando un conjunto de sistemas que pretenden decirnos qué es lo auténtico. Cuando una voz necesita una verificación forense, un mensaje requiere una señal de plataforma y una interacción pública debe pasar por un chatbot, un filtro y una capa de detección para solo entonces aceptarlo como algo fiable, la confianza cívica comienza a alejarse de los procesos sociales compartidos de las infraestructuras técnicas gestionadas.

Si bien gran parte de esto se aborda en el nivel de detección y prevención del fraude, las consecuencias son mucho más amplias. Consideremos qué sucede cuando la IA se integra en las interfaces cotidianas de la vida pública: sistemas de consulta, quioscos de servicio, procesos de solicitud de gobernanza, herramientas de traducción, pasarelas de pago, asistencia automatizada y una implementación más generalizada de la IA en los flujos de trabajo de la gestión diaria de la ciudad. La presencia de la IA se justifica mediante una reorganización centrada en la velocidad, la legibilidad y la eficiencia, aspectos que Hong Kong incorpora de manera característica a su imagen de ciudad densa, de alta velocidad e hiperconectada donde la optimización se manifiesta en todo su esplendor.

Sin embargo, en este nuevo escenario en el que los sistemas de IA tienen el poder de verificar y gestionar las interacciones entre nosotros y la ciudad, los encuentros cívicos se vuelven cada vez más procesuales y procedimentales. El ciudadano se convierte en usuario, la pregunta pública se convierte en consulta y en la actual orientación política para construir una ciudad inteligente, la IA se convierte en un elemento central de un sistema de prestación de servicios públicos acelerado y ampliado. Pero la eficiencia por sí sola no genera confianza cívica. Una institución pública no se vuelve más cívica solo porque se automatice.

Como se está haciendo evidente en las audiencias públicas que investigan el desastre del incendio en un complejo residencial en Tai Po, la confianza ciudadana requiere que la gente entienda cómo se toman las decisiones, dónde se pueden impugnar los errores y cómo se distribuye la responsabilidad cuando algo sale mal. El desafío de la confianza ciudadana frente a la IA será temporal y técnico. Los llamados a la alfabetización, la fluidez y la cautela en IA solo serán efectivos si también cambiamos nuestro vocabulario público para describir lo que hacen estos sistemas si, por ejemplo, empezamos a llamar a los sistemas de IA sistemas de toma de decisiones en lugar de sistemas de automatización, o si pensamos en la entrada de datos como captura, cambia nuestra relación con estas tecnologías. Porque para cuando un daño es visible, el sistema ya parece haberse movido; en el trabajo sobre la violencia de género y sexual facilitada por la tecnología, sabemos que para cuando se desmiente una imagen sintética, el efecto social ya se ha propagado. Para cuando se redactan las medidas de protección, la interfaz ya se ha normalizado. Siempre estamos intentando ponernos al día y este intento de estar al día produce una desconfianza colectiva en nuestra propia capacidad para reconocer lo que está sucediendo mientras sucede.

La verificación se suele presentar como la solución necesaria a estas cuestiones, pero resulta insuficiente. Si la vida cívica se reduce a un ciclo interminable de detección, corrección y respuesta, la confianza pública se vuelve siempre defensiva. Dejamos de preguntarnos qué tipo de relaciones debería posibilitar la tecnología, y nos conformamos con minimizar los daños.

¿Qué significaría pensar de forma diferente? En Digital Narratives Studio que dirijo comenzamos con un cambio modesto pero importante: pasar de preguntarnos cómo la IA puede mejorar los servicios cívicos a preguntarnos qué tipo de relaciones cívicas deberían sustentar esos servicios. La eficiencia y la seguridad son necesarias, pero también lo son la cautela, la explicación y la posibilidad de seguir asumiendo responsabilidades mutuamente, incluso cuando nuestros encuentros estén cada vez más condicionados por sistemas sintéticos.

A esto lo llamamos infraestructuración relacional. Si la confianza se está desplazando de los procesos sociales compartidos a sistemas técnicos de plausibilidad y verificación sintéticas, entonces la respuesta no puede ser simplemente una mejor detección o advertencias más contundentes. Tampoco siento nostalgia por un tiempo anterior a las mediaciones tecnológicas, aunque eso fuera posible. Debemos seguir utilizando las tecnologías que ahora organizan la vida cívica, pero negarnos a aceptar las narrativas de toma de decisiones y confianza que ofrecen. Para nosotros, esto significa crear procesos compartidos y vivenciales a través de los cuales las personas puedan nombrar lo que encuentran, comparar experiencias, compartir interpretaciones, poner a prueba el juicio en conjunto y construir un vocabulario colectivo para las nuevas condiciones que la IA ha normalizado.

En nuestro trabajo esto se materializa en pequeños experimentos sobre lenguaje, relaciones y posibilidades. Mediante encuentros informales y semiestructurados y siempre acompañados de comida, creamos espacios donde las personas pueden describir cómo los sistemas impulsados por IA se integran en su vida cotidiana y donde nuevos vocabularios cívicos pueden surgir de la experiencia vivida, en lugar de basarse solo en prescripciones técnicas. No pretendo prescribir un lenguaje como si existiera solo uno, único y definitivo, pero les invito a reflexionar sobre cómo comprenderían el futuro de la IA, las historias que consolida y la experiencia que desestabiliza si tuvieran que incorporar términos como desestabilizado, enredo, imagen distorsionada, intimidad tóxica, duelo y compañerismo al describir la IA en su vida diaria. Extendemos esto a prácticas de modelado de lenguaje relacional: una práctica que no imita las correlaciones de las máquinas, sino la construcción de relaciones humanas como una manera de dar forma e interpretar el conjunto de datos, donde la intención humana, el contexto social, la responsabilidad mutua y la ansiedad compartida pueden nombrarse y convertirse en elementos centrales de cómo imaginamos la participación cívica con la IA. Y a esto le sumamos una posible consecuencia: insistir en que la IA aún está en desarrollo, aún abierta a ser moldeada de otra manera, y que el lenguaje y el vocabulario con el que viene no son algo que aceptemos sin más.

Este planteamiento ascendente no es escalable ni sencillo, pero se basa en la idea de que convivimos y experimentamos a través de las tecnologías ellas, en lugar de limitarnos a observarlas desde fuera y criticarlas. Reflexionamos sobre cómo reconstruir las condiciones relacionales en las que se encuentran, interpretan y se responsabilizan las tecnologías, de modo que no solo buscamos verificar la realidad, sino también crear espacios públicos capaces de construir significado de forma conjunta.