Imagen de Sabeen Yameen para APC, usada con autorización.

De Hija Kamran

Este artículo es parte de la serie «No le preguntes a la IA, pregúntale a un compañero», una colaboración entre Global Voices, la Asociación para el Progreso de las Comunicaciones y el medio GenderIT. Esta serie tiene como objetivo volver a enfatizar la importancia del intercambio de conocimiento entre las personas, como se ha hecho por décadas. Puedes seguir la serie en APC, GenderIT y Globao Voices. También es parte de la serie Spotlight de abril de 2026 de Global Voices, Perspectivas humanas sobre IA. Puedes apoyar este reportaje con una donación.

Mi trabajo constantemente me impulsa a averiguar sobre nuevas tecnologías, a preguntar cómo se diseñan, para quién se desarrollan, cómo se gestionan, a quién benefician y quiénes terminan lidiando con las consecuencias por su cuenta. Ese escepticismo ha hecho que me demore en adoptar la nueva tecnología más veces de las que puedo contar.

En 2025, comencé a cuestionar seriamente si una IA ética y feminista es siquiera posible. ¿Podría haber una versión de esta tecnología que nos permita, como feministas y defensores de los derechos humanos, relacionarnos con ella sin comprometer nuestra política o nuestro compromiso de defender los derechos humanos interseccionales?

Esa duda y falta de urgencia por sumarme a cada nueva tendencia tecnológica vienen de años de ver cómo operan las empresas tecnológicas. Una y otra vez, han dejado claro que su compromiso principal es hacia sus modelos de negocio, no hacia las personas que usan sus plataformas. «Senador, usamos publicidad», como Mark Zuckerberg dijo una vez. Pero más allá de las declaraciones que se hacen virales, también están las que se dicen en reuniones privadas. Por ejemplo, en una reciente conferencia sobre derechos pregunté al representante de una empresa tecnológica cómo su plataforma de redes sociales diferencia las interacciones dañinas de las inofensivas al momento de mostrar anuncios. Me dijo: «Aliento a las personas a leer nuestros términos de servicio». Asumir que la gente no ha leído estos documentos, especialmente en una habitación en la que todos habían pasado años cuestionando los modelos de negocio de las empresas tecnológicas, me mostró el poco interés que hay por una interacción y transparencia significativas, mucho menos responsabilidad.

Entonces, cuando cuestiono si la IA puede realmente ser ética o feminista, incluso en alguna línea de tiempo alternativa, no nace del cinismo solo porque sí, sino que viene de años de ver cómo se repiten patrones. Las promesas de mejorar, el lenguaje de responsabilidad cuidadosamente elaborado, el acto de escuchar, nada de eso ha cambiado significativamente cómo estos sistemas se construyen o a quiénes les sirven. Más bien, ha hecho que sea más claro que, cuando se trata de proteger nuestros derechos, en gran parte estamos solos. Ningún Gobierno ni empresa tecnológica vendrá a defenderlos por nosotros o con nosotros.

Entonces, cuando hablamos de aplicar una perspectiva de derechos humanos a la IA, significa enfrentar y desmantelar los sistemas que se construyen intencionalmente para servirle al poder, no a las personas, y negarse a aceptar que esta es la única manera en que estas tecnologías pueden existir.

Desafiar la situación actual tecnológica

Esta propuesta nace de una idea que no debemos ignorar: la tecnología no es neutral. Activamente refuerza las mismas estructuras de poder patriarcales y coloniales bajo las que muchos hemos vivido por generaciones, una entidad poderosa (en este caso, una corporación tecnológica) dictará cómo se verán las interacciones sociales de las personas, y el público obedecerá sin cuestionar nada. Estos sistemas los diseñan actores específicos, en ubicaciones específicas, con visiones del mundo muy particulares. Por lo tanto, sí importa quién los construye, quién los controla, dónde los construyen, quién puede definir qué se considera un «estándar de oro» y quién se espera que se someta a las reglas para que estos sistemas continúen trabajando sin interrupciones. Todo esto moldea cómo se ejerce el poder sobre las narrativas y las vidas.

Uno de los primeros aspectos sobre los que debemos ser honestos es que la tecnología nunca ha sido neutral. Esa idea siempre ha sido más una estrategia de mercadotecnia en la que muchos hemos creído, porque cada sistema carga los valores, las prioridades y los sesgos de las personas e instituciones que la elaboran. Y la IA no es diferente, ya que se construye sobre una infraestructura y se entrena con datos que reflejan el mundo tal como es, es decir, desigual, sesgado y, a menudo, violento, y luego reproduce esos patrones a una escala más grande, con una capa de autoridad que los hace difíciles de cuestionar.

Tomemos los datos de entrenamiento, por ejemplo. Estos sistemas se alimentan de enormes cantidades de información sacada de internet, desde registros públicos hasta interacciones cotidianas de las que ni siquiera nos damos cuenta de que somos parte. Y esos datos toman forma a partir de historias de exclusión, racismo, sexismo y desigualdad económica. Cuando la IA aprende de eso, lo codifica, a veces lo amplifica, y luego nos lo presenta de vuelta como si fueran resultados neutrales. El contenido que se etiqueta como «inteligente» a menudo es solo una manera más eficiente de repetir lo que ya existe.

Luego, están los sesgos corporativos, que son aún menos sutiles. Las empresas que construyen estos sistemas no son instituciones públicas con sus propios sesgos; más bien, son entidades lucrativas, con accionistas y objetivos de crecimiento. Esto moldea todo, desde qué problemas vale la pena resolver hasta qué tan rápido se implementan los sistemas, a menudo sin entender completamente sus consecuencias: las tierras de quién se adquirirán para enormes centros de datos que provocan impactos ecológicos duraderos, pero incrementan el valor para los accionistas, a quién robarán el conocimiento y se lo apropiarán para que la carrera corporativa desarrolle el modelo de IA más avanzado, la vida de quién se tendrá que etiquetar como «daño colateral» en la guerra, para ser precisos. ¿A quién se empujará al silencio e invisibilidad por alzar la voz sobre la innovación que estos sistemas prometen?

Todo esto lleva a que la desigualdad sea más difícil de rastrear, porque está oculta detrás de capas de algoritmos, códigos, automatización, complejidad y una estrategia de mercadotecnia cuidadosamente elaborada. El mundo digital extiende los problemas del mundo físico, a menudo de formas que son más difíciles de ver y enfrentar.

Y quizás, más preocupante es cómo la IA contribuye a la creciente sensación de deshumanización. Especialmente en contextos militarizados, las personas se reducen a puntos de datos, objetivos que se deben identificar, rastrear y eliminar en segundos. Las decisiones que provocan consecuencias de vida y muerte cada vez más están mediadas por sistemas que no entienden contextos, historia ni humanidad. La reducción de los humanos a datos de entrada y resultados, señales que deben procesarse, objetivos que deben lograrse, hace que los daños sean más fáciles de justificar en reportes e informes. Las muertes y la destrucción se convierten en una tasa de éxito, y las personas se reducen a solo números en registros, lo que es una decisión política deliberada sobre cómo valoramos la vida humana.

No puede ser nosotros

Todo esto también alimenta una creciente narrativa de que, a la larga, la IA remplazará a los humanos. Pero si damos un paso atrás y vemos la realidad, esta idea empieza a derrumbarse. Lo que la IA puede hacer es reconocer patrones, procesar grandes cantidades de datos, generar respuestas que parezcan convincentes y replicar un tono que se sienta humano. Lo que la IA no puede hacer es ser un humano. No puede entender contextos de la manera en que los vivimos, sentir inquietud, mantener relaciones o cargar el peso de una experiencia vivida.

Replicar patrones para representar una conexión que parece humana no es lo mismo que una conexión humana. No viene del entendimiento ni la empatía; más bien, viene de predicciones que solo son conjeturas estadísticas basadas en qué datos se han alimentado al sistema. Y cuando empezamos a tratar eso como equivalente a la interacción humana, terminamos devaluando lo que realmente significa relacionarse unos con otros. El trabajo de atención, la construcción de comunidades, la resistencia, la empatía, la felicidad, el apoyo mutuo, no son funciones que puedes automatizar.

Incluso la idea de una IA «consciente», que sigue resurgiendo en conversaciones sobre tecnología, a menudo es solo un cambio de marca de sistemas de predicción más complejos. A fin de cuentas, estos modelos siguen generando resultados basados en probabilidades moldeadas por los datos. No saben qué dicen ni entienden las consecuencias, porque no tienen responsabilidad hacia otro ser. Esa distinción importa, especialmente cuando estos sistemas se están posicionando como quienes toman las decisiones en rubros que afectan significativamente las vidas de las personas.

Y quizás, ahí es donde esto vuelve a conectarse al problema principal. Cuando empezamos a creer que los humanos pueden reemplazarse, se vuelve más fácil aceptar sistemas que ya tratan a las personas como puntos de datos, sea en investigaciones, contratación, mantenimiento del orden, salud, bienestar o guerra. La misma lógica que reduce a las personas a datos también las hace desechables. Entonces, oponerse a esta narrativa trata sobre aferrarse a la idea de que las vidas humanas, la empatía, las experiencias, las realidades y  las relaciones no pueden reducirse a algo que una máquina puede simular y optimizar.

Si nos tomamos en serio el siquiera imaginar darle una perspectiva de derechos humanos a la IA, primero debemos dejar a un lado esta idea de que la tecnología nos puede remplazar, o que se puede priorizar por encima de nosotros, o que puede definir qué significa ser humano. No puede, y no debería poder. Porque todo lo que esta tecnología roba, tierras, ambientes, recursos, tiempo, energía, ecosistemas enteros, viene de un mundo que existe para los seres vivos; humanos, flora y fauna, que lo han habitado desde mucho antes de que siquiera se conceptualizara alguno de estos sistemas. Replantear esa relación significa reconocer que la IA nunca debería venir a costa de la vida o dignidad, ni las condiciones que hacen que la vida sea posible.

La necesidad de asumir responsabilidades

Sin embargo, la responsabilidad de proteger el mundo en el que vivimos no puede imponerse sobre las mismas personas que tienen el menor poder para moldear estas tecnologías. Ahora mismo, se están tomando decisiones en habitaciones a las que la mayoría de nosotros nunca tendremos acceso, y aún así, se espera que seamos nosotros quienes vivan con las consecuencias. Una perspectiva de derechos humanos significa enfrentar ese desequilibrio e insistir que la responsabilidad esté donde se encuentra el poder.

Y quizás eso también significa que deberíamos ser escépticos desde el comienzo, no luego de que el daño ya esté hecho, sino que desde el punto donde estas tecnologías se introducen y comercializan. Es nuestro interés hacer preguntas incómodas desde el inicio, como: ¿De dónde viene? ¿Quién lo construyó? ¿Cómo funciona? y ¿Quién se beneficia realmente de eso? Porque, si no hacemos eso, terminamos aceptando estos sistemas como si fueran inevitables, en vez de verlos por lo que son: opciones. Y así, perdemos de vista la idea fundamental de que el futuro debería construirse en torno a los seres vivos, y no optimizarse mediante máquinas.

Hija Kamran es la redactora jefe de GenderIT.org y estratega de promoción dentro del Programa de derechos de las mujeres de la Asociación para el Progreso de las Comunicaciones (APC). A través de su política y trabajo de campaña, se especializa en la intersección de la tecnología, el género y los derechos humanos.