Casi cinco millones de personas usan el metro de São Paulo todos los días. Cada uno de sus rostros puede haber quedado registrado en un sistema que se viene utilizando desde principios de 2010. El 23 de marzo, la corte estatal de São Paulo ordenó ^[1] a la empresa del metro que dejara de emplear esa tecnología.

El metro apeló la decisión, alegó ^[2] que el sistema de vigilancia “cumple rigurosamente con la Ley General de Protección de Datos”; sin embargo, la apelación fue rechazada por la misma corte a mediados de abril.

Esta decisión se consideró una victoria para un grupo de entidades de la sociedad civil que presentaron una demanda civil ^[3] para detener la recolección de datos, hecho que consideraban inconstitucional y fuera del marco legal de Brasil en materia de derechos civiles digitales.

A principios de marzo de 2022, este grupo presentó una demanda civil contra el Metro Estatal de São Paulo, exigían que pusiera fin a la recolección de datos y que pagara una indemnización por daños morales de al menos 42 millones de reales (unos 8,5 millones de dólares).

No obstante, el grupo espera tener un mayor impacto más allá de las vías del metro de São Paulo. Aspiran a desempeñar un papel en la formación de jurisprudencia sobre las tecnologías de reconocimiento facial en un país cuyo marco legal dice poco o nada sobre estos sistemas.

“Esta decisión podría tener un impacto a nivel nacional respecto a lo que debatimos actualmente acerca de cómo se aplica la Ley General de Protección de Datos, sobre un marco legal de protección que todavía es nuevo y que está en proceso de formulación de jurisprudencia y acuerdos en el sistema judicial”, explica Sheila de Carvalho, coordinadora del Centro de Referencia Legal en Article 19 (Brasil y Sudamérica) ^[4].

Article 19 es una de las organizaciones que firmó la demanda, junto con la Defensoría Pública del Estado de São Paulo; la Defensoría Pública Federal; el Instituto Brasileño de Defensa del Consumidor (Idec); Intervozes ^[5], colectivo de comunicación social; y CADHu, el Colectivo de Defensa de los Derechos Humanos.

Carvalho señaló que el objetivo principal de la demanda es suscitar el debate en torno al manejo de los datos personales, la necesidad de consentimiento, y el impacto discriminatorio y los prejuicios sociales de estos métodos de recolección de datos.

“Esta demanda [incluidos los alegatos que contiene] nos abre camino para establecer más parámetros de protección en cuanto al uso de los datos personales”, dijo el abogado a Global Voices en una entrevista en video.

En los últimos años, los congresistas han propuesto proyectos de ley ^[6] que intentan regular y establecer procedimientos para implementar inteligencias artificiales, sobre todo en lo que respecta a la seguridad pública. No obstante, el Senado ha estado debatiendo con expertos ^[7] con la esperanza de que se produzca un nuevo proyecto de ley más respetuoso con la privacidad y que absorba otras propuestas existentes con relación al tema.

En febrero de 2020, el Metro de São Paulo anunció ^[8] que implementaría un “sistema de vigilancia electrónica por imágenes” en tres de las cinco líneas del metro. El proyecto fue otorgado al consorcio Engie Ineo Johnson, compuesto por empresas irlandesas y francesas, con una inversión prevista de 58,6 millones de reales (unos 11,5 millones de dólares).

En aquel momento, una coalición de entidades de sociedad civil (las que presentaron la demanda civil) acudió a la corte para obtener más información sobre el sistema. Querían saber cómo se ajustaría la iniciativa a los principios establecidos por la Ley General de Protección de Datos ^[9] de Brasil (LGPD), aprobada en 2018 y que entraría en vigor en agosto de 2020.

Dos años después, esa pregunta tiene una respuesta. Según las organizaciones autoras de la demanda, el sistema viola reiteradamente la LGPD y contraviene otros mecanismos legales, como la Constitución Federal, los Derechos de los Niños y Adolescentes, y el Código de Derechos del Consumidor.

La demanda afirma que la empresa del Metro de São Paulo usa la tecnología de reconocimiento facial en los pasajeros y usa sus datos personales sin consentimiento, es decir, sin la debida transparencia. Además, no pone a disposición de los usuarios información sobre cómo se manejan estos datos y para qué se utilizarán.

Asimismo, señalan que la empresa no evaluó el riesgo del programa ni mitigó los problemas inherentes a las tecnologías de reconocimiento facial, tal y como exige la ley. Por otra parte, estas prácticas de reconocimiento facial violan los derechos fundamentales de los seres humanos y de los consumidores, lo que perjudica a todos los usuarios del transporte público, sobre todo a los grupos sociales marginados, que se verían afectados por los sesgos raciales integrados.

Ir a contracorriente

En Estados Unidos, algunos lugares se movilizan para prohibir el reconocimiento facial tanto a nivel estatal como municipal, mientras que otros normalizan cada vez más el uso de esta tecnología, informa Wired ^[10]. Esta paradoja destaca la importancia de la regulación a nivel federal.

El Parlamento Europeo pide que se prohíba ^[11] el uso policial de la tecnología de reconocimiento facial en zonas públicas, en bases de datos privadas de reconocimiento facial y en policía predictiva ^[12].

En cambio, Brasil parece nadar a contracorriente. El Metro de São Paulo no es el único ente público que emplea reconocimiento facial. En todo el país, los Gobiernos estatales lo están aplicando en diversos sectores. Según el Instituto Igarapé ^[13], centro de investigación independiente de Brasil, en 2019 se registraron 47 casos de reconocimiento facial que fueron implementados en 15 estados.

Este hecho es problemático en un país donde el 56,1 % de la población se identifica como negra. Esto es evidente en Bahía, donde el gobierno izquierdista de Rui Costa, político del Partido de los Trabajadores, está transformando el estado en un “laboratorio de reconocimiento facial”, según informó The Intercept Brasil ^[14].

A pesar de no tener suficiente evidencia de que un sistema de este tipo tenga éxito para fines de seguridad pública; en julio de 2021, el Gobierno de Bahía decidió ampliar el programa poniendo a prueba un nuevo sistema en Salvador, la capital del estado.

Con un valor de 18 millones de reales (3,56 millones de dólares), el nuevo sistema está a cargo de la empresa española Iecisa en colaboración con Huawei. Se trata de varias cámaras distribuidas por toda la ciudad que recolectarán imágenes de rostros y las guardará en un sistema, agrupando las imágenes de una misma persona. Según The Intercept, el sistema utiliza inteligencia artificial para comparar las imágenes recolectadas con los rostros que se encuentran en la base de datos de personas buscadas de la Secretaría de Seguridad Pública del Estado.

Además, según agentes de la sociedad civil, Brasil aún carece de un marco legal que establezca límites y parámetros respecto al uso de las tecnologías de reconocimiento facial.

“Ahora hace falta de una regulación u orientación de alcance general, lo que resulta en la autorización tácita para usar sistemas de reconocimiento facial”, escribió Igarapé en un informe de 2020 ^[15].

En la comunidad internacional, ya existe una comprensión más consolidada del problema, que sirvió como argumento en la demanda. Es más, la Comisión de Derechos Humanos de Naciones Unidas reconoce ^[16] que los sistemas de reconocimiento facial pueden utilizarse para “perpetuar y amplificar la discriminación”, especialmente contra las mujeres y las personas de color.

Ahora bien, el hecho de que Brasil no tenga un marco legal consolidado, no es una autorización para cometer abusos y violaciones. Los grupos de la sociedad civil que presentaron la demanda contra el Metro de São Paulo afirman que los datos que se recolectan en las estaciones y los trenes se comercializan de manera ilegal.

Esta suposición tiene fundamentos: en 2021, ViaQuatro, la empresa privada que gestiona una de las líneas privadas del metro de São Paulo, fue condenada por la corte estatal de São Paulo ^[17] por haber usado reconocimiento facial sin autorización.

En ese entonces, la juez declaró que no tenía dudas de que se estaban captando imágenes de los pasajeros sin su consentimiento para fines comerciales que beneficiaban a la compañía y otras compañías de terceros involucradas.

“Estamos importando tecnología de manera inconsciente, simplemente reproduciendo lo que se ponía en práctica. Y ni siquiera una buena reproducción, ya que la mayoría de estos países han abandonado estas tecnologías. Pero estos países necesitan vender esta tecnología, que es muy cara, así que se aprovechan de países con altos índices de desigualdad”, explicó Carvalho.

Añade que Brasil opera bajo una lógica de encarcelamiento masivo, de criminalización, sin poder utilizar el derecho penal con parsimonia para conflictos que de verdad lo requieren.

“Lo empleamos como primera opción, y no como última. Por lo tanto, para mecanismos como estos, que violan los derechos, resulta muy fácil encontrar espacio para florecer en nuestro país”.