Imagen de Ellena Ekarahendy para APC. Usada con autorización.

De Débora Prado

Este artículo es parte de la serie «No le preguntes a la IA, pregúntale a un compañero», una colaboración entre Global Voices, la Asociación para el Progreso de las Comunicaciones y el medio GenderIT. Esta serie tiene como objetivo volver a enfatizar la importancia del intercambio de conocimiento entre las personas, como se ha hecho por décadas. Puedes seguir la serie en APC, GenderIT y Global Voices. También es parte de la serie Spotlight de abril de 2026 de Global Voices, Perspectivas humanas sobre IA. Puedes apoyar esta cobertura con una donación.

Soy brasileña y tenemos una canción icónica sobre nuestra ciudad más grande, São Paulo, en la que el compositor describe presenciar el «poder del dinero, que construye y destruye cosas bellas». La idea del «poder del dinero» podría remplazarse fácilmente por «acción humana». La actividad humana está llena de contradicciones. El mismo ser humano que crea arte, imagina futuros y desarrolla tecnologías es quien las usa para su propia destrucción.

Pero si miramos más de cerca, nos daremos cuenta de que los humanos no son todos iguales. Recientemente, el boicot «QuitGPT» (sal de GPT) ganó fuerza ante la estrecha colaboración de OpenAI con la administración de Estados Unidos, incluida una asociación para la vigilancia y guerra. El humano que firmó el acuerdo con el Pentágono fue el multimillonario Sam Altman, homosexual y blanco de Estados Unidos, y el director ejecutivo y cofundador de esta gran corporación. Por otro lado, hace poco en Brasil, una red de la sociedad civil local presentó TybyrIA, primer modelo de IA de código abierto en portugués para detectar discursos de odio contra la comunidad LGBTQ+. Las personas detrás de esta red, llamada «Código Não Binário» (código no binario), son Veronyka Gimenes, pirata cibernática travesti/transfemenina, y Amanda Claro, mujer cisgénero bisexual. Ambas son brasileñas.

Estos dos ejemplos, una corporación multimillonaria que alimenta la violencia global bajo el pretexto del «futuro de la tecnología» y otra que intenta contrarrestar la violencia con recursos limitados en una zona geográfica determinada, sirven como evidencia. Revelan que algunos «humanos» se mantienen mucho más visibles que otros, y que nuestros valores, sueños y decisiones pueden ser enormemente diferentes. Es más, «humano» se ha convertido en una etiqueta creada dentro de una dominación blanca, occidental, masculina y cisheteronormativa, basada en esta idea de un «humano» universal que define a los «otros», aquellos que serían considerados menos humanos o menos merecedores de derechos básicos. Los pocos seres humanos que crearon esta división artificial entre ellos mismos y la naturaleza son los mismos que destruyen comunidades, ríos y bosques para construir centros de datos. Que usan IA para deshumanizar «objetivos» en la guerra, como una herramienta para la vigilancia y ataques en actos de genocidio. En manos de colonizadores, líderes autoritarios y multimillonarios, la tecnología se convierte en un acto de concentración y generar ganancias con el poder, que recurre a una narrativa o representación falsa de progreso, urgencia y necesidad imperativa. Pero no representan a todos los humanos.

En estos momentos, lees un artículo que es parte de una serie llamada «No le preguntes a la IA, pregúntale a un compañero». Aquí, APC, GenderIT y Global Voices, afirmamos el valor de la diversidad y creatividad humana, y vamos un poco más allá al intentar demostrarlo en la práctica. En esta serie, desarrollamos dos preguntas básicas, redactadas como preguntas que las personas podrían hacerle a la IA, pero en este caso, las responden autores e ilustradores de distintos países, posturas y contextos. Durante abril, publicamos los artículos que formaron parte de la serie, y lo que aprendimos en este viaje lleno de contradicciones fue revelador. A continuación, dejo un breve resumen desde mi perspectiva.

En nuestro editorial, «volvemos a enfatizar la importancia del intercambio de conocimiento entre las personas, como se ha hecho por décadas: el intercambio comunitario de información y experiencia basado en años de experiencias vividas, informado por realidades locales y motivado por la necesidad de sentirse conectados unos con otros». En esta serie, también nos centramos en lo humano. Pero aquí intentamos incorporar algo de diversidad. Recurrimos a activistas, periodistas, escritores e investigadores. A cuerpos disidentes. A artistas. A perspectivas de los países en desarrollo.

También tuvimos muchas ausencias, comenzando con un autor confirmado de Líbano que no pudo enviar su artículo en medio de los ataques coloniales de Israel en el sur del país. Mientras lees estas líneas, millones de personas son víctimas de violencia y violaciones de derechos en la región de sureste de Asia y norte de África.

Recibimos y publicamos un total de nueve artículos en esta primera ronda de la serie, por lo tanto, quedaron excluidos innumerables países, realidades vividas y perspectivas. Aún así, lo que logramos invitó a la reflexión. Los autores, ilustradores y editores involucrados en la serie aportaron perspectivas diferentes cuando se les hizo la misma pregunta. Esto por sí mismo confirma nuestra premisa de que la creatividad humana, cuando consideramos a las personas en toda su diversidad, puede ofrecer ideas provocativas, perspectivas diferentes y puntos de acuerdo y desacuerdo que la IA generativa homogeneiza. Y esto es algo que la IA, que crean las corporaciones grandes, gestionan y enriquecen los cuerpos normativos, que se ven como la máxima representación de la humanidad y se posicionan como el referente para marginar a muchos otros, no puede proveer.

Aprender con compañeros

Daria Dergacheva respondió nuestra primera pregunta: ¿qué es vital para valorar la creatividad y conexión humana en la era de la IA? Nos dijo que, sin importar lo que las empresas tecnológicas intentan vendernos, no existe creatividad ni conexión que no sea la de los humanos. «La IA generativa no escribe, no diseña ni pinta: genera los patrones estadísticamente más cercanos; estos son sistemas de automatización probabilística, que los hace fundamentalmente diferentes de la cognición o creatividad humana», dijo en su artículo.

Sin embargo, Kira Xonorika nos recordó que «por siglos, innumerables formas de inteligencia no humana, desde sistemas animales y ecológicos hasta inteligencias ancestrales y espirituales, se han descartado o subordinado dentro de una jerarquía construida en torno a una idea limitada de ‘lo humano'». En su artículo, hay un recordatorio poderoso: «Esa idea la ha estructurado históricamente la supremacía blanca, el patriarcado, el capacitismo y la cisheteronormatividad. Asume que la subjetividad racional, productiva y autónoma es el estándar humano universal. Centrar ‘lo humano’ en la IA a menudo termina centrando ese modelo en particular».

¿Cómo se puede evitar esto? Mientras reafirmamos la necesidad de una conexión y creatividad humana, ¿cómo podemos reconsiderar nuestro propio concepto de la humanidad para que no perpetúe este legado? La segunda pregunta de esta serie: ¿qué se puede hacer para crear una perspectiva de derechos humanos para la IA? ¿Fue suficiente? ¿Deberíamos preguntarnos qué tecnologías pueden sustentar la vida y el conocimiento del planeta, en toda su variedad y diversidad? Esas tecnologías, ¿qué narrativas y representaciones moldearían?

En cualquier caso, para mí, los artículos que abordaron la primera pregunta de la serie provocaron varias dudas sobre algunas certezas muy cómodas y plantearon nuevas preguntas en mi mente, en una espiral que una respuesta preprogramada diseñada para complacerme y retener mi atención nunca habría generado. Afortunadamente, en vez de respuestas agradables, encontré algo en lo que pensar y ninguna respuesta.

Luego de eso, comencé a leer los artículos que respondían a la pregunta sobre una perspectiva de derechos humanos para la IA. Hija Kamran explicó que replicar patrones para representar una conexión que parece humana no es lo mismo que una conexión humana, y señala sabiamente que: «Trabajo de atención, construcción de comunidades, resistencia, empatía, felicidad, apoyo mutuo, no son funciones que puedes automatizar». Mientras cuestionaba si la IA podría llegar a ser ética o feminista, explicó que su duda viene «de años de ver cómo se repiten patrones. Las promesas de mejorar, el lenguaje de responsabilidad cuidadosamente elaborado, el acto de escuchar, nada de eso ha cambiado significativamente cómo estos sistemas se construyen o a quiénes les sirven».

Rebecca Ryakitimbo enfatizó en su artículo que somos nosotros, los humanos, quienes le damos a la IA un propósito y una urgencia. «La lucha por los derechos humanos siempre ha consistido en cambiar el poder de unos pocos a muchos, y hoy el terreno es digital, con herramientas como la IA», señaló, y añadió: «Podemos y debemos abordar la regulación de IA considerando los derechos fundamentales que hemos defendido por siglos».

Luego, profundizamos un poco más en las realidades vividas. Rezwan señaló cómo la vigilancia y el reconocimiento facial restringen el espacio cívico, obstaculizan los derechos humanos y dañan a las comunidades marginadas en India. Oiwan Lam, cuando examinó la lección china sobre la perspectiva de derechos humanos para la IA, destacó la necesidad de volver a equilibrar el poder entre el Estado-corporación, la máquina y las personas mediante un marco de toma de decisiones que vuelva a poner a las personas en el centro. Mariana Tamari resaltó el caso de una comunidad tradicional en Brasil donde las familias que han vivido en sus tierras por casi un siglo ven sus hogares amenazados por nuevas tácticas de desalojo empleadas por acaparadores de tierras, mientras la digitalización sin restricciones consolida un modelo en el que ya no prevalece la presencia humana. «El conocimiento empírico del territorio, que se refinó durante siglos y que las comunidades tradicionales se pasaron de generación en generación rápidamente se descarta por considerarse obsoleto», destacó en su artículo, que se publicó en el Día de la Tierra. Quienes viven en una alianza con la tierra terminan desplazados, mientras que en el «universo paralelo que creó el sector corporativo, el colapso climático inminente simplemente no existe. El futuro prometido siempre es uno de control y abundancia, garantizado por la tecnología digital y la precisión que solo la IA puede dar».

Basados en realidades vividas y respaldados por evidencia, estos artículos han dado una demostración muy práctica de las infracciones en curso, al mismo tiempo que muestran el camino para detenerlas. En todos, hay un llamado a que se asuman responsabilidades. Sus contenidos sirven como un recordatorio de que, si bien buscamos liberar nuestra capacidad de pensar e imaginar futuros de las restricciones impuestas por la narrativa dominante en la IA, debemos abordar los problemas muy reales y las injusticias profundas que ya están ocurriendo. No es un caso de elegir entre una o la otra; ambas deben suceder al mismo tiempo.

En la misma línea, afirmamos y cuestionamos el valor de la acción humana a lo largo de la serie. Si bien recurrimos a la idea de una dicotomía entre el humano y la máquina, una vez más expusimos su falacia.

Surgen nuevas preguntas

A menudo, buscamos desmantelar las narrativas falsas al afirmar lo opuesto, pero quizás una lección muy valiosa de esta serie es precisamente resaltar el valor de no encontrar respuestas rápidas, de no recurrir a soluciones cómodas y lugares familiares, sino reconocer el valor único de generar más preguntas.

Algunos dicen que la IA es buena y ayudará a las personas y al planeta. Podemos decir que no lo es, y podemos respaldar esta afirmación con mucha evidencia. Pero también podemos preguntar: ¿de qué IA estamos hablando? ¿Quién crea las herramientas de IA, sobre qué criterios y para qué fines? ¿Están diseñadas para reforzar la guerra, apropiación de tierras, vigilancia, violación de derechos humanos y explotación económica, mientras ayudan a crear una narrativa para justificarlas?

Algunos dicen que la IA es inevitable. Podemos decir que no lo es. Pero también podemos cuestionar qué realidades vividas tenemos en mente al decir esto. Ciertamente, no la de las comunidades tradicionales bajo ataque en Brasil, por tomar un ejemplo de esta serie. Y si este no es el caso para todos, ¿quién impulsa esta narrativa y con qué propósito? ¿Dónde estará la IA y cómo se podrá regular?

En una era de certezas moldeadas por algoritmos y narrativas poco claras que refuerzan sesgos, la incertidumbre bien puede tener poder. Sin duda, plantear preguntas ayuda a exponer suposiciones falsas. También puede ayudar a desmantelar una red de engaño diseñada para desviar la atención de los problemas urgentes, como falta de transparencia, participación en la toma de decisiones y mecanismos de responsabilidad, incluso cuando enfrentamos estas graves violaciones.

Pero ¿qué hay de ti, que lees esto ahora? Si tú o tu comunidad consideraran preguntas como las que se exploraron en esta serie, ¿cuáles serían las respuestas? ¿Sentiste alguna incomodidad durante la lectura de estos artículos? ¿Generaron nuevas preguntas? ¿Has encontrado inspiración en el desacuerdo? ¿Has hablado con un compañero recientemente?

Débora Prado es la redactora jefa de APC y periodista con experiencia en comunicación estratégica, feminismo y derechos humanos.

Ellena Ekarahendy es estratega creativa indonesia que teje el arte y el diseño como catalizadores para construir comunidades. Mediante la dirección creativa, el diseño visual e ilustraciones, persigue imaginaciones radicales de futuros habitables que ponen en el centro la justicia de género, la política emancipadora, el intercambio de conocimiento liberador y el cuidado entre especies. Reflexiona sobre los significados entre las máquinas, y fomenta conversaciones en torno a la tecnología feminista con el colectivo PurpleCode Collective. Fuera de la pantalla, valora las conversaciones solitarias con sus plantas de interior, sus libros, la luna, las olas y los árboles. Este arte se crea mientras se pregunta: quizás sus ancestros han estado intentando hablarle para guiarla a través de las estrellas, el viento o las montañas, pero está muy distraída por las interfaces impulsadas por IA. ¿Y si la IA inmediata con la que realmente debemos conectar en estos momentos es la inteligencia ancestral?