Imagen de Joseph Mucira en Pixabay. Usada bajo Licencia de Pixabay Content.

La inteligencia artificial (IA) es uno de los avances más importantes de nuestro tiempo y ha llegado para revolucionar el mundo, pero a medida que crece su popularidad surge también un mayor escrutinio sobre los posibles daños y riesgos asociados con su uso y despliegue a gran escala. Naciones Unidas ha reconocido las amenazas del uso no regulado de la IA en los derechos humanos, particularmente en el derecho a la privacidad, a la libertad de expresión, a la libertad de pensamiento y a juicios justos. A pesar de esto, la adopción de IA continúa superando las protecciones legislativas, lo que deja a las poblaciones vulnerables a actos maliciosos.

Aunque esta es una preocupación universal, las dinámicas a nivel país y los registros individuales de derechos humanos implican que los niveles de exposición al riesgo varían de un país a otro, quizás incluso de una región a otra. En América Latina, la tecnología de vigilancia está en aumento, y la falta de transparencia impacta tanto a nivel individual como colectivo. México es un buen ejemplo.

México fue el primer cliente Gobierno registrado y el usuario más prolífico del software espía Pegasus, herramienta comúnmente utilizada para vigilar los teléfonos y dispositivos de periodistas, activistas y trabajadores de la sociedad civil. Desde 2011, ha gastado más de 80 millones de dólares en tecnología, comprada aparentemente para usar contra terroristas y cárteles de drogas. Sin embargo, las evidencias muestran que se ha utilizado contra ciudadanos y opositores políticos.

Bajo la administración anterior, expertos internacionales encargados de investigar las desapariciones de estudiantes en Iguala en 2014 fueron vigilados e intimidados, lo que desencadenó un escándalo internacional. Sin embargo, el uso deshonesto de Pegasus ha continuado, incluso bajo el mandato actual del presidente López Obrador, lo que sugiere un problema sistémico con el enfoque del país hacia el uso del software espía y la consideración general hacia los derechos civiles y libertades individuales.

Pero el problema se extiende más allá del proyecto Pegasus. En Ciudad de México está instalado uno de los mayores sistemas de vigilancia urbana de América: El Centro de Comando, Control, Cómputo, Comunicaciones y Contacto Ciudadano, más conocido como El C5. Esta red, conectada a botones de pánico y centros de comando, se extiende por 1485 kilómetros y tiene software diseñado para detectar automáticamente placas de matrículas. Por otro lado, el número de cámaras instaladas aumentó de 18 a 65 millones entre 2018 y 2022, con planes declarados para agregar al menos otros 16 millones adicionales. A pesar de esta aparente preeminencia, han surgido problemas con El C5, desde identificaciones falsas hasta manejo indebido de datos personales. También se ha demostrado que los fallos tecnológicos impactan en los resultados de los casos penales debido a la supuesta objetividad que implica la vigilancia por video.

El extenso sistema C5 es superado solo por el Titán, amplia base de datos de inteligencia y seguridad, tanto en términos de escala como de amenaza a las libertades civiles. El software es utilizado por varios Gobiernos estatales mexicanos para combinar datos de ubicación con información privada, incluidos datos financieros, gubernamentales y de telecomunicaciones, para geolocalizar a personas en todo el país en tiempo real. Los funcionarios gubernamentales han sido criticados  por el uso controvertido de la base de datos para atacar a figuras públicas, pero mucho más preocupante aún es el hecho de que se puede acceder a la inteligencia habilitada por Titán a través de un mercado clandestino, lo que lo convierte en un riesgo mayor.

El alcance de la inteligencia artificial incorporada en el C5 y en Titán aún no está claro, pero el espectro de la vigilancia sigue siendo grande y seguramente causará aún más preocupaciones con la adición de nuevas tecnologías inteligentes

En la frontera, los problemas son más evidentes. Un memorando de entendimiento (MDE) entre el gobernador de Texas, Greg Abbott, y la gobernadora de Chihuahua, Maru Campos, delineó planes para la construcción de la Torre Centinela, edificio de vigilancia de 20 pisos que se ubicará en Chihuahua. Con un costo de casi 200 millones de dólares, el edificio está diseñado para incluir «1791 lectores automáticos de placas de matrícula, 3065 cámaras pan-tilt-zoom y 74 drones» conectados a «transmisiones en vivo de cámaras propiedad de negocios y residentes del vecindario» y equipados con filtros biométricos para reconocimiento facial. La tecnología de IA también estará conectada al registro de licencias de conducir del estado de Chihuahua para facilitar la búsqueda de datos e identificación de personas.

Desde el lado estadounidense de la frontera, los residentes mexicanos también están sujetos a una infraestructura de vigilancia invasiva  reforzada por tecnología de IA. Empresas como Anduril y Elbit Systems son contratadas por el Gobierno de Estados Unidos para utilizar sensores, drones e incluso realidad virtual (RV)  asistida por inteligencia artificial para identificar personas y objetos en ambos lados de la frontera. En México, más allá de la seguridad fronteriza, la IA se ha utilizado para la formulación de políticas basadas en evidencia, como ayuda en algunos juicios y en la industria de la salud para la gestión de recursos y diagnósticos basados en datos.

Comparado con otros países de América Latina, México está rezagado en la adquisición y despliegue de tecnologías de IA, pero es probable que eso cambie en el futuro a medida que el uso de tecnologías emergentes se generalice en todo el mundo. El potencial impacto revolucionario de la IA en industrias como salud, finanzas y seguridad ya ha sido reconocido y ha recibido apoyo de algunos de los principales políticos del país, especialmente de Marcelo Ebrard, uno de los candidatos para la próxima elección presidencial, quien propuso usar tecnología de reconocimiento facial como parte de las estrategias de lucha contra la delincuencia en el país.

Las ambiciones han superado el desarrollo de herramientas legislativas y estándares apropiados para regular el uso y despliegue de la inteligencia artificial y de las tecnologías asociadas. Sin embargo, sí existen algunas medidas. En 2018, México produjo una estrategia de IA que destacó la necesidad de un marco de gobernabilidad y delineó los desafíos que las tecnologías emergentes planteaban a los derechos de privacidad. También existen varias leyes que contienen disposiciones para regular ciertos aspectos del uso de IA, incluida la ley de protección de datos (Ley Federal de Protección de Datos Personales), la ley de protección al consumidor (Ley Federal de Protección al Consumidor) y la ley de competencia económica (Ley Federal de Competencia Económica). Además, el Senado mexicano creó la Alianza Nacional de Inteligencia Artificial (ANIA) en 2023 para «fortalecer el ecosistema de inteligencia artificial en México».

A pesar de estas novedades y de la existencia de 18 iniciativas activas relacionadas con IA, la falta de leyes específicas de IA deja indefensos a los mexicanos. A medida que la IA avanza, es necesario desarrollar legislación para abordar los problemas y desafíos únicos que surgen con las nuevas tecnologías. Esta situación debe analizarse para países en todo el mundo, pero especialmente para aquellos como México, donde la existencia de sistemas de vigilancia estatales abrumadores y tecnologías que violan la privacidad han dejado a su población más vulnerable a los impactos adversos de la adopción generalizada de IA, tanto por parte del Estado como de entidades privadas.