Imagen de Paula Villar para APC. Usado con autorización.

Este artículo forma parte de la serie «No le preguntes a la IA, pregúntale a un compañero», colaboración entre Global Voices, la Asociación para la Comunicación Progresista y GenderIT. La serie busca recalcar la importancia del intercambio de conocimientos entre personas, tal como se ha hecho durante décadas. Puedes seguir la serie en APC, GenderIT y Global Voices. También forma parte de la serie especial de Global Voices de abril de 2026 «Perspectivas humanas sobre la IA«. Puedes apoyar esta cobertura con una donación.

El marco actual de la gobernanza de la IA en India abarca algunas directrices generales, un proyecto de ley de ética que aún no se ha promulgado y normas de protección de datos. En conjunto crean un sistema donde la IA puede implementarse primero y cuestionarse después, porque el marco destaca una IA responsable, pero no impone obligación alguna de transparencia ni evaluación de impacto antes de implementarla.

El auge de la vigilancia con IA, como en los sistemas de reconocimiento facial en las estaciones de tren o las tecnologías de vigilancia predictiva que utiliza la Policía en diversas ciudades, continúa en general sin protecciones legales suficientes, lo que suscita preocupación por los derechos humanos, la privacidad, la dignidad y las libertades civiles. Una «IA responsable» sin que se asuman responsabilidades es solo una aspiración. Si bien el marco conceptual busca una perspectiva centrada en las personas, los derechos humanos deben ser el punto de partida de la gobernanza de la IA y no una consideración que se incorpore después.

En febrero, India organizó una cumbre de cinco días en Nueva Delhi llamada India AI Impact 2026, que reunió a líderes mundiales, grandes plataformas tecnológicas, actores de la sociedad civil y responsables políticos con el fin explorar el futuro de la gobernanza y la cooperación en materia de IA. La cumbre puso destacó la creciente importancia económica y geopolítica de la tecnología de IA, que continúa transformando las economías globales. La cumbre se centró en crecimiento inclusivo, uso ético y utilización de IA en sectores como salud, agricultura y educación.

En un comunicado publicado el 20 de febrero, la organización de derechos humanos Amnistía Internacional contrastó las afirmaciones de la cumbre sobre el impacto de la IA con cómo se está usando la inteligencia artificial en India. Amnistía Internacional subrayó que tecnologías como la automatización con IA y reconocimiento facial restringen el espacio cívico, facilitan la vigilancia estatal y afectan desproporcionadamente a los pobres y marginados.

La cumbre en sí sirvió como una demostración práctica de la creciente red de vigilancia con inteligencia artificial de India en Delhi. Supuestamente para mantener la seguridad del lugar de la cumbre, la Policía de Delhi instaló 500 cámaras de seguridad en el centro de exposiciones internacional y convirtió el centro de la ciudad en una «fortaleza digital» con más de 4000 cámaras con inteligencia artificial desplegadas por toda Delhi.

Estas cámaras utilizaban reconocimiento facial para analizar las transmisiones de video en directo, comparaban los rostros con las bases de datos policiales de «sospechosos», manifestantes reincidentes y personas señaladas por posibles problemas de orden público, y enviaban alertas al instante. La red de vigilancia con IA se coordinaba a través de 32 centros de control con el apoyo de sistemas de reconocimiento facial, análisis de video en tiempo real y lentes inteligentes con IA que utilizaban los agentes en el lugar. Más de 20,000 personas estaban pendientes del sistema para dar seguimiento en tiempo real la densidad de la multitud, los patrones de movimiento y los posibles «alborotadores» dentro y alrededor de la cumbre de IA.

Peligros de vigilancia con inteligencia artificial

Con el fin de supervisar la adopción de la tecnología de reconocimiento facial en India, la organización de derechos humanos Internet Freedom Foundation (IFF) puso en marcha el Proyecto Panoptic en 2020. Para 2024, había creado la base de datos pública más completa sobre el uso de tecnología de reconocimiento facial en India luego de registrar más de 120 contratos gubernamentales.

La organización india Software Freedom Law de servicios legales sin ánimo de lucro publicó recientemente un resumen de los incidentes relacionados con la IA y la vigilancia ocurridos en India en 2025. El informe destaca el uso de esta tecnología en diversos ámbitos, como la vigilancia con IA en viajes.

Captura de pantalla del sistema de reconocimiento facial en el rastreador de India. Por Project Panoptic de IFF (CC-BY).

La aplicación de reconocimiento facial DigiYatra respaldada por el gobierno y basada en inteligencia artificial se presenta como una iniciativa emblemática de la aviación digital. Combina la identificación Aadhaar del pasajero, con la tarjeta de embarque y los datos biométricos faciales para permitir viajes sin papeles y sin complicaciones en los aeropuertos indios. Si bien en teoría DigiYatra es opcional y no obligatoria, IFF afirma que los pasajeros de las aerolíneas en toda la India están siendo presionados para que se registren.

IFF dice también que DigiYatra tiene un sistema de datos deficiente y un ecosistema poco transparente, y que no es claro qué datos se almacenan, cómo, dónde ni quién tiene acceso. El servicio es gestionado por la Fundación Digi Yatra, y alrededor del 75% de sus acciones pertenecen a empresas privadas, por lo que queda fuera del ámbito de la ley de derecho a la información de 2015 en cuando a asumir responsabilidades.

La videovigilancia con inteligencia artificial se está implementando cada vez más en las salas de examen de toda India para supervisar a los estudiantes. Estas tecnologías rastrean los gestos, el uso del teléfono móvil e indicadores faciales, como movimientos oculares inusuales y envían notificaciones rápidas a los supervisores. En 2025, estas tecnologías ya se habían aplicado en los exámenes de las juntas escolares y en importantes pruebas competitivas en estados como Uttar Pradesh, Bihar y Karnataka.

Según SFLC, la vigilancia con IA está aumentando en toda India, pero con información insuficiente sobre la supervisión y la retención de datos, y sobre los mecanismos para impugnar la identificación errónea. En consecuencia, estas tecnologías se integran en la infraestructura pública, el consentimiento queda cada vez más ignorado y las preocupaciones en materia de derechos humanos reciben una mínima consideración.

El despliegue de la tecnología de IA impacta a millones de personas

Según una investigación de Decode, unidad de investigación independiente de BOOM, una de las principales organizaciones de periodismo digital y verificación de datos de India, el reconocimiento facial con IA no logra reconocer a las mujeres cuyos rostros cambian por embarazo, enfermedad o envejecimiento, y eso les impide acceder a servicios públicos y a que se verifiquen sus datos. La tecnología de reconocimiento facial de la aplicación gubernamental Poshan Tracker no logró cotejar la apariencia actual de las personas con fotografías antiguas en el documento de identidad Aadhar.

El programa de Servicios Integrados de Desarrollo Infantil (ICDS) de India es responsable de alimentar a aproximadamente 47 millones de mujeres embarazadas, madres lactantes y niños. En julio de 2025 se implementó el escaneo de reconocimiento facial con IA para la identificación, y para finales de ese año casi la mitad de las personas que debían recibir alimentos no los habían recibido porque el sistema no podía reconocer sus rostros.

El reconocimiento facial presenta dificultades si hay poca luz en teléfonos de baja gama, y sobre todo con tonos de piel más oscuros. A pesar de que este último fallo está bien documentado, nadie se preguntó si era relevante antes de implementarlo en algunas de las comunidades más marginadas de India.

Regulaciones en la India sobre IA

India aún no tiene una ley específica y vinculante sobre IA, se basa en un conjunto de leyes existentes, como la ley de tecnologías de la información, normas intermediarias y protección de datos, además de las directrices de gobernanza. En noviembre de 2025, estas directrices presentadas por el Ministerio de Electrónica y Tecnologías de la Información de India (MeitY) adoptaron un modelo no intervencionista que destaca la IA responsable, la supervisión por riesgos y la protección contra daños, pero constituye una norma no vinculante.

Un nuevo proyecto de ley sobre inteligencia artificial (ética y responsabilidad) de 2025 propone que el Gobierno establezca un Comité de Ética, revisiones éticas obligatorias, auditorías de sesgo, restricciones a algunos usos (por ejemplo, en vigilancia y en decisiones laborales de alto riesgo) y mecanismos de reclamos, lo que indica una perspectiva más explícita en materia de derechos humanos, pero aún no se ha promulgado.

El marco de protección de datos personales digitales de India (implementado a través de las reglas de protección de datos personales digitales en 2025) impone obligaciones fundamentadas en consentimiento, limitación de la finalidad y minimización de datos a desarrolladores y operadores de IA, lo que protege indirectamente la privacidad y los derechos relacionados en contextos de IA.

El Gobierno indio está intensificando sus iniciativas para que los intermediarios eliminen rápidamente las falsificaciones generadas por IA que se utilizan para difamar, suplantar identidades, engañar o mostrar contenido sexual sin consentimiento en las redes sociales. Sin embargo, aunque las plataformas cumplen, para cuando se logran eliminar estos videos filtrados, el daño suele estar ya hecho.

Perspectiva actual de los derechos humanos respecto a la IA

Los funcionarios de derechos humanos de Naciones Unidas argumentan cada vez con mayor frecuencia que el derecho internacional de los derechos humanos, que debería servir como marco central para la gobernanza de la inteligencia artificial, destaca la inclusión, la rendición de cuentas, la transparencia y la necesidad de abordar los desequilibrios de poder. Esto refleja una tendencia amplia que va más allá del debate voluntario sobre la «ética de la IA» y se extiende al ámbito de las obligaciones legales, como restricciones y medidas correctivas. El alto comisionado de Naciones Unidas para los Derechos Humanos ha pedido moratorias sobre las aplicaciones de IA que violan los derechos fundamentales (como algunas formas de vigilancia biométrica), así como la debida diligencia obligatoria en materia de derechos humanos en cada etapa del desarrollo e implementación de los servicios habilitados por IA.

De igual modo, en una declaración conjunta de 2025, la Coalición por la Libertad en Línea instó a los Gobiernos a garantizar debida diligencia empresarial, a aplicar medidas de protección en situaciones de alto riesgo y a exigir evaluaciones de impacto en derechos humanos, en especial en lo que respecta a riesgos como manipulación política, desinformación y elaboración de perfiles. Algunos observadores han sugerido un marco regulatorio para toda la Asociación Asiática para la Cooperación Regional basado en la ley de IA de la Unión Europea con protecciones claras para los derechos fundamentales y procedimientos mejorados de transparencia y responsabilidad. Sin embargo, esto es solo una recomendación política y no una propuesta de ley vinculante.

El camino a seguir

Según los principios para el uso responsable de la inteligencia artificial del Gobierno de Ontario, las obligaciones en materia de derechos humanos deben incorporarse en el diseño de sistemas de IA, y no añadirse después. El Consejo de Comisarios Europeos de Derechos Humanos recomienda que se exijan evaluaciones de impacto en los derechos humanos antes de implementar sistemas de IA de alto riesgo. Debería ser obligatorio que los Gobiernos y las empresas que utilizan IA en funciones de uso público revelen los sistemas que utilizan, los datos con los que se entrenan y las tasas de error. Se necesitan marcos jurídicos específicos para determinar cuándo los sistemas de IA se consideran entidades jurídicas a efectos de responsabilidad y qué obligaciones de diligencia tienen sus programadores y usuarios con respecto a las personas afectadas. El problema surge cuando existen marcos que no se pueden implementar con facilidad y que excluyen el uso estatal de IA.

La misión IndiaAI del MeitY es un programa nacional aprobado en marzo de 2024 y tiene como objetivo construir un ecosistema de IA integral en India a través de la iniciativa «Proyectos de IA seguros y confiables». Hasta ahora, se han emprendido ocho proyectos de IA responsables que abarcan temas como  mitigación de sesgos, marcos éticos de IA, herramientas para mejorar la privacidad y explicaciones sobre la IA, además de cinco proyectos adicionales dirigidos a detectar archivos manipulados. En teoría, las iniciativas IndiaAI del MeitY coinciden con los principios de derechos humanos. Sin embargo, hay grupos de derechos humanos que argumentan que no es así, ya que las garantías son voluntarias, la supervisión es débil y la IA estatal de alto riesgo (vigilancia, automatización de bienestar, vigilancia predictiva) continúa sin protecciones vinculantes ni recursos efectivos.

Los activistas de derechos humanos sugieren que India debería promulgar legislación específica para la vigilancia con inteligencia artificial, como control de algoritmos, exigencia de transparencia y supervisión de sistemas de vigilancia con el fin de reducir el riesgo de autoritarismo digital.

Paula Villar nació en Río de Janeiro, Brasil, en 1992. Se graduó en Psicología y realizó un posgrado en Psicología Clínica. Aunque dibuja desde muy temprana edad, no fue hasta la pandemia de COVID-19 que Paula decidió cambiar de rumbo profesional, dedicándose al arte digital y al activismo. Además, trabaja también con otros medios, tales como la pintura al óleo, los dibujos realistas a lápiz y la tinta china.