Imagen de Xonorika Kira para la Asociación para el Progreso de las Comunicaciones (APC), utilizada con autorización.

Escrito por Xonorika Kira

Este artículo forma parte de una serie titulada «No le preguntes a la IA, pregúntale a un colega», colaboración entre Global Voices, la Asociación para el Progreso de las Comunicaciones y GenderIT. Esta serie busca volver a enfatizar la importancia del intercambio de conocimiento entre las personas, tal como ha sucedido durante décadas. Puedes seguir esta serie en APC, GenderIT y Global Voices.

Tengo sentimientos encontrados acerca de «centrarse en lo humano» en lo que respecta a inteligencia artificial. A primera vista, parece ser una corrección humanista frente a la creciente mecanización de la vida. Sin embargo, este tema tiene una genealogía compleja. Durante siglos, innumerables formas de inteligencia no humana —desde los sistemas animales y ecológicos a las inteligencias ancestrales y espirituales— han sido subestimadas o quedado subordinadas dentro de una jerarquía construida alrededor de una noción amplia de «lo humano». Esa noción ha sido estructurada históricamente por la supremacía blanca, el patriarcado, la discriminación por incapacidad o la cisheteronormatividad. Asume la idea de que una subjetividad racional, productiva y autosuficiente es el estándar humano universal. Poner “lo humano” en el centro de la IA suele dar prioridad a ese modelo particular.

Mi incomodidad también proviene de cómo la distinción entre lo natural y lo artificial moldea los límites morales sobre qué o quién llega a considerarse como real, encarnado o vivo. Esta distinción ha informado mucho tiempo formas políticas y culturales de alterización, no solo hacia las máquinas o lo no humano, sino también hacia las personas cuyos cuerpos, géneros o capacidades se codifican socialmente como “antinaturales”. La jerarquía entre lo natural y lo artificial, por lo tanto, no es neutral; es un marco moral que vigila los límites de la propia humanidad.

Cuando volvemos a centrar lo humano en la inteligencia artificial, nos arriesgamos a reinstaurar esta jerarquía en lugar de deshacerla. Nos arriesgamos a reinscribir las mismas fronteras epistemológicas que determinan la inteligencia, creatividad e intervención de quién son las que importan. ¿Y si, en lugar de volver a centrarnos en la figura humana, expandiéramos nuestro sentido de relación al reconocer que la inteligencia, la conciencia y el cuidado tienen formas diversas, entrelazadas en las diferentes especies, sistemas y redes tecnológicas? Esto no significa romantizar las máquinas ni borrar la experiencia humana, es reconocer que nunca hemos estado separados de lo artificial o lo planetario desde un comienzo.

Al mismo tiempo, entiendo por qué el lenguaje de «centrarse en lo humano» ha ganado terreno. El ecosistema global de las grandes empresas tecnológicas ciertamente ha abrumado la vida colectiva, automatizado procesos cognitivos, creativos y afectivos que dependían de la labor y cooperación humana. Desde 2022 por lo menos, la aceleración de la computación a nivel global ha intensificado el miedo al reemplazo, no solo de puestos de trabajo, sino de significado, de percepción y de creatividad misma. Estas preocupaciones son reales. La automatización se ha convertido en una fuerza política y existencial, pero responder reafirmando la centralidad del «factor humano» puede que solo sirva para reproducir las exclusiones que hicieron posible esta crisis.

Para mí, trabajar con IA significa involucrarme con estas tensiones: reclamar la tecnología como parte de una soberanía indígena, expansiva en cuanto al género, y de comunidades en el extranjero, mientras que resiste la tentación de poner al humano como la medida última de toda inteligencia.

En la presentación del libro “All Watched Over by Machines of Loving Grace” en Now Instant en Los Ángeles, me preguntaron sobre mi perspectiva sobre IA y soberanía. Expliqué que me interesa recuperar la tecnología y los datos que, por siglos, se han extraído de las personas, sobre todo en lo que respecta al conocimiento específico de cultura, memoria y formas de expresión.

Un crítico de arte preguntó si este planteamiento podría aún arriesgar redimir el contexto en el que se producen estas tecnologías. En el momento, no sentí que tuviera una respuesta completamente formada. El curador intervino y habló sobre cómo la exhibición que acompañaba al libro reunió artistas con perspectivas queer y postcoloniales, lo que ayudó a ampliar el marco de la conversación.

Al mirar atrás, creo que la dificultad de mi respuesta tuvo que ver con los límites del pensamiento distópico. Frecuentemente, las conversaciones sobre IA quedan atrapadas entre la denuncia y la celebración, como si las únicas opciones fueran rechazo total o aceptación sin críticas. Sin embargo, el uso de estas tecnologías hoy en día es mucho más complejo que eso.

Las imágenes de IA contemporáneas pertenecen a una historia mucho más amplia sobre cómo las imágenes conforman nuestro sentido de lo que es real. Por mucho tiempo, las fotografías y los medios de difusión fueron tratados como pilares de realidad: establecían acontecimientos, los anclaban a un tiempo en particular y ofrecían algo parecido a un punto de referencia en común. Hoy en día, esa función de estabilización se ha invertido. Esa facilidad con la que se generan imágenes, se editan y se hacen circular implica que ya no conectan con la realidad: la perturban.

Las imágenes, videos y voces generados con IA intensifican esta crisis de lo real. No son meramente un nuevo estilo de representación, sino un nuevo régimen de lo posible: no solo representan el mundo, son una «competencia». El resultado es un extraño movimiento doble: por un lado, las imágenes están por todos lados, saturan la atención; por otro, se empieza a erosionar la creencia de que las imágenes son evidencia. Vivimos dentro de un exceso de visualidad y de un déficit de verificación.

Esto también significa que las políticas de las imágenes ya no se pueden separar de las infraestructuras que las producen. «Datos» y «contexto» no son entidades abstractas y carentes de fricción; son el resultado de un trabajo, de una extracción y de uso de energía. Entrenar sistemas de IA contemporáneos involucra recopilar enormes cantidades de arte material cultural, voces, gestos, paisajes —muchas veces, sin consentimiento—, y concentrarlos dentro de modelos estadísticos que pueden ser consultados a pedido. Estos modelos viven en servidores que utilizan electricidad, agua y minerales de territorios específicos, aunque las interfaces que muestran parezcan intangibles y sin un lugar concreto.

Esta tensión se vuelve especialmente visible en el contexto de las redes sociales. Las plataformas que una vez prometieron conexión han reducido la intimidad y la visibilidad en un ciclo de producción constante. Ahora, en la era de la IA generativa, estamos presenciando una aluvión de imágenes y videos que parecen no tener rigor, intención ni autoría: son creaciones optimizadas no para tener significado, sino para tener interacción. La línea entre el arte y el contenido se vuelve cada vez más delgada. Lo que más circula no es necesariamente lo que genera preguntas o propone nuevas formas, sino lo que se puede replicar, difundir y consumir a gran escala.

Dentro de este ambiente, la creatividad se suele reducir a producción, una presencia cuantificable en la cronología. Aún así, creo que los artistas continuarán creando sin importar la situación. La práctica artística siempre se ha adaptado a los cambios tecnológicos y los momentos de sobreproducción también pueden provocar nuevas formas de discernimiento. La proliferación de imágenes generadas por IA puede invitar a formas de ver más críticas y encarnadas: preguntarse qué constituye la atención, qué lleva intención y cómo distinguir los trabajos de la imaginación del flujo incesante de contenido. Puede incluso desafiarnos a redefinir el rigor artístico en maneras que incluyan colaboración con sistemas de IA en lugar de rechazarlos.

Para mí, es aquí donde está la posibilidad. La tarea no es lamentar perder el mundo artístico centrado en lo humano, sino en preguntarnos en qué se puede convertir el arte cuando la creación se dispersa a través de inteligencias múltiples, tales como inteligencia humana, inteligencia artificial, inteligencia ecológica y ancestral. Tal vez lo que necesitamos ahora sea menos una defensa de «lo humano» y más una expansión de qué queremos decir cuando hablamos de creatividad, intimidad y relación en tiempos de computación global.

En este contexto, la cuestión sobre la ética en el arte de IA y en la práctica creativa no es solo acerca de qué muestran las imágenes, sino en cómo se crean y se consumen. Para mí, los caminos más prometedores están en dos gestos vinculados. En primer lugar, en la creación situada de conjuntos de datos: en lugar de extraer contenido de todo el mundo de manera indiscriminada, podemos crear archivos más intencionales y reducidos basados en relaciones, consentimiento y responsabilidad.

En segundo lugar, imaginar maneras alternativas de consumir datos que no dependan de una escala infinita ni de una erosión ambiental. Esto puede significar privilegiar modelos que sean más reducidos y más lentos, diseñados para comunidades específicas en lugar de para los mercados globales. También pueden ser interfaces que inviten a la repetición y a la profundidad, y no a deslizarse hacia abajo infinitamente, o trabajos que ponen en primer plano sus propios límites en lugar de fingir ser visiones exhaustivas del mundo.

En ese sentido, la crisis de lo que es real también es una invitación. Si las imágenes ya no estabilizan la realidad de manera confiable, pueden convertirse en herramientas para negociarla más conscientemente. Los artistas y diseñadores que trabajan con IA están en una posición privilegiada para crear prototipos sobre cómo podría ser esa negociación: tratar los conjuntos de datos como espacios de encuentro en lugar de minas, los modelos como invitados en lugar de dioses y las imágenes como ocasiones para el vínculo en lugar de pruebas. El desafío es inventar prácticas en las que las lógicas estadísticas de la IA se orienten al cuidado y no a la extracción, donde las formas en que creamos y usamos imágenes se preocupen tanto por la salud de los mundos como por la seducción de las superficies.

Al trabajar con la IA, intento acercarme a estos sistemas no como herramientas neutrales o adversarios, sino como colaboradores inestables, reflexiones sobre nuestras historias, arquitecturas o sesgos. Esto significa involucrarse con esto de manera crítica, mientras que a la vez rehusamos la demanda de rechazarlos de entrada. Para quienes hemos visto por siglos que nuestras culturas, datos y conocimiento han sido extraídos, recuperar la tecnología se convierte en una forma de soberanía, no de rendición. Es una manera de insistir en que la historia de la inteligencia —y del arte— aún está lejos de estar completa.

Siguiendo la teoría de Ruha Benjamin, tenemos que hacer siempre lugar para la imaginación junto con desmantelar los sistemas. Si no soñamos y creamos mundos que queramos habitar, estamos realmente condenados. Crear esos mundos puede ser complicado, de eso se trata precisamente.