Imagen cortesía de Ameya Nagarajan

Este artículo es de Sarah Culper y se publicó en SMEX el 26 de mayo de 2023. Esta es una versión abreviada del artículo, en virtud de un acuerdo para compartir contenido.

Gobiernos y sectores privados en la región del oeste de Asia y el norte de África demandan usar inteligencia artificial (IA) para reforzar sus economías y optimizar sus servicios. Si bien el marco para el uso de la IA varía en cada país, en general, la mayoría no tiene regulaciones o recomendaciones no vinculantes.

Casi todos los países de habla árabe en el oeste de Asia y el norte de África han creado una estrategia de IA sin tener muy en cuenta las regulaciones. Por el contrario, las estrategias enfatizan la preocupación por que las regulaciones opriman la innovación. Este ha sido un argumento común para regular la IA en todo el mundo y ha llevado al uso peligroso de datos y daño a personas.

En general, la mayoría de países de la región se encuentran en la fase preliminar de uso de IA y desean promover su empleo para estimular la economía.

Es un gran enfoque en la región del Golfo, mayormente en el sector de los negocios más que en el público, si bien muchos Gobiernos apuntan a integrar la IA en casi todos los sectores. La razón principal tras la inversión en IA es diversificarse y alejarse de economías dependientes del petróleo. Emiratos Árabes Unidos es líder en términos de implementación de IA, incluido en el sector público.

Generalmente, el uso de IA en el sector público provoca mayor preocupación, pues los grupos del sector público a menudo se ocupan de poblaciones vulnerables y ofrecen servicios esenciales.

El meollo de la IA son los datos y, al igual que sucede con otras tecnologías, el uso de datos y la falta de protección efectiva de la privacidad supone un gran problema. Es complicado evaluar la protección de la privacidad de estos programas ya que su propia naturaleza patentada dificulta conocer cómo se usan los datos.

Es más, con la IA se complica en mayor medida determinar la responsabilidad. Es necesario que la responsabilidad de las decisiones se establezca claramente en un marco desarrollado por cada país para la regulación de la IA, lo que normalmente no se trata.

Preocupa el desarrollo de IA y la protección de datos en la región de Medio Oriente y norte de África

Ningún país en la región ha desarrollado un marco de inteligencia artificial seguro y confiable y, cualquier movimiento en esta dirección pospone la necesidad de innovar sin restricciones.

Aunque estos países cuentan con leyes de protección de datos, si es el Estado quien los solicita, es mas fácil eludir las regulaciones de protección de datos, ya que existen estipulaciones para que el Gobierno acceda a esos datos. Por ejemplo, si los datos son necesarios para un contrato o negocio, estos se pueden procesar.

La asociación que Arabia Saudita y Emiratos Árabes Unidos realizaron con varias organizaciones chinas es motivo de preocupación, pues se desconoce si los datos se están difundiendo, a la vez que muestra un paso hacia el desarrollo de tecnologías para vigilar en masa a la población.

Emiratos Árabes Unidos emplea IA en diversos sectores que pueden llegar a tener un impacto negativo en la libertad de la gente. Preocupa especialmente el uso de vigilancia predictiva y cámaras, ya que esta tecnología podría emplearse, por ejemplo, para perjudicar a personas del colectivo LGBTIQ+ y a activistas, por ser una comunidad perseguida en la región. Los sistemas de IA empleados por los Gobiernos pueden dar lugar a discriminación y resultados perjudiciales cuando las fuerzas del orden las usan para crear el perfil, atacar o predecir futuras violaciones de la ley.

La atención médica parece ser el principal objetivo para implementar IA en esta región. Por el momento, al menos en hospitales, la IA se utiliza principalmente para agilizar procesos y valoraciones (por ejemplo, con resonancias magnéticas), en lugar de depender de dispositivos autónomos que no están supervisados por expertos humanos.

El enfoque principal en la atención médica es la seguridad de los datos y quién tiene acceso. ¿Puede el Gobierno acceder a los datos más allá de la necesidad de diagnóstico si se trata de hospitales gubernamentales?

Una gran preocupación se presenta si la tecnología se desarrollara y comenzara a dar recomendaciones a los doctores, ya que esto podría conducir a un sesgo de cumplimiento y automatización, lo que afectaría significativamente a la salud de la población. El índice de falsos positivos/negativos debe publicarse y el personal sanitario debe formarse para cuestionar la tecnología, como mínimo.

En varios países del Golfo se están desarrollando ciudades inteligentes, lo que está creando diferentes problemas. En primer lugar, las ciudades inteligentes son susceptibles de ser hackeadas e inutilizar la zona, por lo que una forma de aumentar el compromiso es determinar qué medidas de ciberseguridad se implementarán y su nivel de seguridad.

Si una ciudad está completamente controlada por un software, debe ser sólido en extremo, actualizado y vigilado extensamente. El pirateo de datos puede convertirse en un problema más significativo de lo que ya es si la vida entera de la población está integrada en un solo software.

Además, muchas tecnologías sugeridas para «agilizar» y «anticipar tus necesidades» requieren un control exhaustivo de datos, lo que supone que todo habitante estará sometido a una vigilancia excesiva.

En general, el uso de estas tecnologías permite casi siempre una mayor vigilancia de la población y, consecuentemente, es preocupante si la emplean regímenes autoritarios.

El empleo de la inteligencia artificial en el sector privado da lugar a capitalismo de vigilancia, en el que la privacidad se intercambia por «comodidad»; pero en realidad, el comportamiento humano es frecuentemente predecible y altamente influenciado y modificado por factores externos, lo que facilita que la IA lo anticipe.

El uso de taxis sin conductor y tiendas sin trabajadores (sin contacto y sin cajas) en el sector privado reduce las posibilidades de empleo. Además, este tipo de tiendas requieren aplicaciones para funcionar que están equipadas con amplias capacidades de vigilancia. Si esto se convirtiera en la norma, no tendríamos más opción que optar por estas medidas.

El compromiso con la IA es complicado en cualquier región por la capacidad de invocar el secreto comercial y a la falta de marcos centrados en la IA gubernamental. Sin embargo, la falta de marcos de responsabilidad menor dificulta el acceso a la información en el oeste de Asia y el norte de África. Aunque todos los países han declarado que apuntan a una IA ética y responsable, no existe una legislación concreta para conseguirlo.