¿Ves todos los idiomas que hay? Traducimos las historias de Global Voices para que los medios ciudadanos del mundo estén disponibles para todos.

Lee más sobre Traducciones Lingua  »

Apprise: Inteligencia artificial para desenmascarar situaciones de trabajo forzado y trata de personas

Crédito de la fotografia: Hannah Thinyane y usada con autorización.

Rising Voices (RV) colabora con Association for Progressive Communications (APC), que realizó Global Information Society Watch en 2019 (GISWatch), cuyo interés primordial es la inteligencia artificial (IA): derechos humanos, justicia social y desarrollo. En el transcurso de los próximos meses, RV estará publicando versiones de los informes por país, particularmente los que destacan cómo la inteligencia artificial puede afectar a las comunidades que históricamente fueron marginadas y no representadas adecuadamente.

Este artículo fue escrito por Hannah Thinyane y Monticha Puthawong del Instituto de Computación y Sociedad de la Universidad de Naciones Unidas (UNU-CS), en Macao y Tailandia. Este informe se publicó originalmente como parte de una recopilación mayor: “Global Information Society Watch 2019: Inteligencia artificial: derechos humanos, justicia social y desarrollo”. Por favor visita el sitio web de GISWatch para ver el informe completo que está disponible bajo licencia CC BY 4.0.

El trabajo forzado y la trata de personas afecta a más de 24,9 millones de hombres, mujeres y menores a nivel mundial a quienes se explota por su mano de obra o se obliga a ejercer la prostitución. Las cifras publicadas por el Departamento de Estado de Estados Unidos indican que en 2018, solo 85 613 víctimas fueron identificadas en todo el mundo. Estas cifras resaltan que existe una cantidad mayor de personas, a menudo trabajadores migrantes, que son explotadas en condiciones de esclavitud, aunque solo una pequeña fracción logra ser identificada y recibir ayuda posteriormente.

Los medios de comunicación populares y los profesionales a menudo utilizan los términos “trata de personas” y “trabajo forzado” de manera intercambiable, por lo tanto valdría la pena definir cada uno. En nuestro trabajo, nos basamos en el concepto del continuo de la explotación de Skȓivánková quien define el “trabajo decente” y el “trabajo forzado” como dos extremos de un continuo, y cualquier situación entre los dos extremos representa diferentes formas de explotación laboral. Estas situaciones laborales pueden variar de “relaciones consensuales, de cooperación y beneficio mutuo entre los migrantes y sus facilitadores” a “altamente coercitivas y explotadoras”. Al usar esta secuencia, podemos observar que la trata de personas es un proceso que consiste en una serie de acciones inescrupulosas que acercan al trabajador a situaciones de trabajo forzado. En este informe, utilizamos el término “asistencia de primera línea” (APL) para aludir de manera colectiva a un gran número de partes interesadas cuyo papel consiste en evaluar las condiciones laborales y ayudar a que las víctimas potenciales reciban ayuda y accedan a medios correctivos –como la Policía, los inspectores de trabajo, los auditores y las organizaciones no gubernamentales (ONG).

En este informe analizamos los hallazgos de un proyecto que se llevó a cabo durante dos años y medio cuyo objetivo era entender cómo se puede usar la tecnología digital para ayudar a los trabajadores explotados en situaciones vulnerables. Comienza con una descripción del proceso de desarrollo que emprendimos en Tailandia para crear Apprise, sistema para ayudar a detectar proactiva y constantemente a los trabajadores que estén en situaciones de vulnerabilidad. El informe posteriormente desarrolla la posibilidad de utilizar inteligencia artificial para entender las prácticas variables de explotación.

Apprise

Nuestro trabajo asume un enfoque de concepción ética (VSD) que se basa en el entendimiento de que la tecnología se forma por los prejuicios y las suposiciones de sus diseñadores y creadores. La concepción ética integra proactivamente la reflexión ética en el diseño de las soluciones y, utiliza una metodología tripartita integradora e iterativa compuesta de investigaciones conceptual, empírica y técnica. Con su enfoque en los valores, esta propuesta introspectiva aspira ser “proactiva [para] influenciar el diseño de la tecnología desde un inicio y durante el proceso de diseño”. Al realizarlo de este modo, la concepción ética muestra un compromiso con el progreso y no con la perfección.

Comenzamos nuestra investigación en Tailandia a principio del año 2017 con una serie de grupos de discusión conformados por muchas partes interesadas, entre estas supervivientes de la explotación, organizaciones no gubernamentales, funcionarios tailandeses y organizaciones intergubernamentales. El objetivo de estos grupos de discusión era entender las prácticas actuales y los problemas para identificar a las víctimas de la trata de personas, su acceso y uso de la tecnología, y su percepción sobre las maneras en que la tecnología podría ayudarles a superar los problemas que afrontan. Para resumir los hallazgos de esta reunión inicial, los grupos de discusión sugirieron que era necesario apoyo durante la primera fase de detección de víctimas. Los problemas que se identificaron en esta etapa fueron los siguientes:

  • Comunicación: Debido a la falta de recursos (y de conocimiento de los idiomas que se requerían), la APL experimentó generalmente problemas al no poder hablar el mismo idioma que los trabajadores, por lo tanto, no pudieron entrevistarlos. No siempre había traductores disponibles.
  • Privacidad: La detección inicial ocurrió en el campo y en algunas ocasiones delante de los explotadores potenciales. Los trabajadores temen a las represalias si responden honestamente las preguntas.
  • Capacitación: Existe una falta de conocimiento sobre los indicadores comunes de la explotación laboral y el trabajo forzoso. Algunas APL se enfocaron en los indicios de abuso físico en lugar de las formas más sutiles de coerción, como servidumbre por deuda o retención de salario y documentos importantes.

Basados en estos hallazgos, desarrollamos Apprise: sistema para teléfono móvil que ayuda a APL detectar proactiva y constantemente señales de explotación laboral en las poblaciones vulnerables. La herramienta se instala en el teléfono de la APL, pero básicamente sirve para permitir que los trabajadores divulguen de manera privada sus condiciones laborales. Las preguntas se traducen y graban en idiomas de uso común entre los trabajadores en cada sector, y cuando se combina con un juego de auriculares, esto ofrece a los trabajadores una forma privada para responder mientras están en el campo. Después de analizar sus respuestas a una serie de preguntas cerradas, Apprise brinda consejo sobre los siguientes pasos que la APL debe tomar para ayudar al trabajador. Las respuestas de las preguntas se guardan en el teléfono de APL y luego se cargan a un servidor la siguiente vez que inicia sesión conectado a una red, para respaldar un análisis posterior. Además de codiseñar el sistema, nuestras reuniones con los participantes revelaron las señales de explotación actuales, que sirvieron para formular la lista de preguntas. De abril 2017 a junio 2019, más de mil interesados en el ámbito de la lucha contra la trata de personas en Tailandia contribuyeron en el diseño o la evaluación del sistema.

Desde marzo 2018, las ONG han estado utilizando Apprise en el campo para ayudar en la detección proactiva y constante en sus actividades de sensibilización en los sectores siguientes: pesca, procesamiento de alimentos de origen marino, manufactura y explotación sexual. En mayo de 2018 comenzamos a trabajar estrechamente con el Ministerio de Trabajo (particularmente con el Departamento de Protección Laboral y Bienestar) y la Marina Real Tailandesa, en Tailandia, para comprender cómo Apprise podría apoyar a detectar proactiva y constantemente los trabajadores en los centros gubernamentales de inspección ubicados en los puertos (centros de control de entrada y salida del puerto o “PIPO”) y en el mar.

Mediante este proceso de trabajo de campo con la APL, nos percatamos de que los explotadores ajustan y refinan continuamente sus propias prácticas de explotación, como respuesta a las cambiantes políticas e inspecciones. Cuando los explotadores las cambian, toma tiempo reconocer estas modificaciones como un nuevo “patrón” de explotación. A menudo la información es retenida por diferentes interesados, y no la difunden por diversas razones. Después de un tiempo, los interesados comienzan a difundir estos patrones modificados, generalmente por medio de sus redes informales. En este punto, se identifica la nueva práctica como patrón y, por consiguiente, se desarrolla una nueva política o práctica de inspección.

Este juego del gato y el ratón continúa durante un tiempo, y los explotadores ajustan nuevamente sus comportamientos para evadir la detección. En respuesta a esto, desarrollamos Apprise para permitir que se añadan nuevas preguntas a las listas disponibles, y para incluir nuevos idiomas sobre la marcha. Cuando la APL inicia sesión en su teléfono, Apprise revisa si existen actualizaciones en las listas y descarga las nuevas traducciones de audio de las preguntas. Este apoyo adaptivo permite a la APL realizar preguntas sobre los patrones actuales de explotación y obtener información adicional acerca de las prácticas de explotación cuando se identifica un patrón nuevo.

Basados en esta observación, comenzamos a preguntarnos si existiría la posibilidad de incluir el aprendizaje automático para asistir más oportuna y precisamente en la identificación de estas prácticas variables de explotación. Aunque este trabajo todavía se encuentra en su fase inicial, nuestro objetivo es determinar las prácticas de explotación que se ejercen específicamente en cada sector para crear educación orientada y campañas de sensibilización al respecto, apoyar a APL para detectar de manera proactiva las prácticas de explotación actuales e informar sobre la política basada en evidencia para respaldar el enjuiciamiento de los explotadores.

Aprendizaje automático para detectar patrones de explotación

En términos generales, la función del aprendizaje automático es identificar patrones en la información disponible. Su objetivo principal es poder generalizar para que los patrones identificados en los datos de formación puedan ser aplicados precisamente en la información nunca vista. El aprendizaje automático ha sido aplicado en una diversos contextos de justicia penal, como para predecir delitos, predecir delincuentes, predecir las identidades de los perpetradores y predecir las víctimas de un delito. También ha sido utilizado en el ámbito de la lucha contra la trata para realizar evaluaciones predictivas de las vulnerabilidades y rastreo de delitos a fin de mejorar la asignación de los recursos del Estado. En nuestra investigación, aspiramos comprender si existe la posibilidad de incluir el aprendizaje automático para predecir los patrones variables de explotación, un área que ha recibido poca atención en la actualidad.

A pesar de que existen beneficios indiscutibles que podrían aportar estas herramientas de predicción exacta, los Gobiernos, la sociedad civil y el mundo académico no siempre han hablado positivamente al respecto, y citan casos donde estas “pueden reproducir patrones existentes de discriminación, heredar el prejuicio de las personas que tomaron decisiones anteriormente o simplemente reflejar las tendencias generalizadas que persisten en la sociedad. Incluso pueden producir el resultado perverso de empeorar las desigualdades existentes al sugerir que los grupos históricamente desfavorecidos en realidad merecen un trato menos favorable”.

Aunque reconoce diferentes conceptos de derechos humanos (morales, éticos y filosóficos), nuestro trabajo asume un enfoque legal, basado en la Declaración Universal de Derechos Humanos (DUDH), los Principios Rectores sobre las Empresas y los Derechos Humanos de las Naciones Unidas y la Declaración de la Organización Internacional del Trabajo relativa a los Principios y Derechos fundamentales en el Trabajo. Estos instrumentos jurídicos internacionales brindan un marco de trabajo establecido para “considerar, evaluar y finalmente corregir el impacto de la inteligencia artificial en las personas y la sociedad”.

Para analizar el impacto del aprendizaje automático sobre los derechos humanos en lo que respecta a la identificación de las prácticas variables de explotación, nos percatamos de que un primer punto de consideración importante es la calidad de la información que proporcionan en las entrevistas iniciales de detección mediante Apprise, tema vinculado estrechamente con la privacidad.

Se prestó atención considerable en la fase de diseño de Apprise para incluir controles estrictos en la cantidad de información que se recaba de los trabajadores individuales (y qué acceso tienen). A manera de ejemplo, Apprise aspira ayudar en la rendición de cuentas y transparencia con la difusión de manera automática una versión resumida de las respuestas de la entrevista con el supervisor inmediato de la APL. No obstante, este proceso limita la exactitud de las ubicaciones GPS de las sesiones de detección, y únicamente comparte las respuestas de las preguntas cerradas.

Para proteger la privacidad de los trabajadores, no recabamos ninguna información de carácter personal, pues creemos que los riesgos asociados con esto generarían injustamente desventajas a quienes optaron por responder las preguntas. No obstante, no existe forma alguna de eliminar posteriormente las respuestas de alguien en particular (en caso de que lo solicitaran).

En el transcurso de los últimos 18 meses, hemos evaluado y refinado Apprise basándonos en la retroalimentación que recibimos de los trabajadores en los sectores vulnerables como también de los supervivientes de la trata de personas. El objetivo de esto fue incrementar la privacidad que sienten los trabajadores en estas sesiones de detección inicial. Sabemos que aunque ningún sistema de detección puede garantizar respuestas verdaderas de los trabajadores, Apprise ofrece más privacidad que los actuales métodos de entrevista a los trabajadores, que ocurren a menudo en grupos y delante de los explotadores potenciales (y en el peor de los casos, utilizando supervisores como intérpretes cuando se manifiesta una barrera idiomática).

Con un sistema de aprendizaje automático, las respuestas de la entrevistas necesitarían evidentemente ser difudidas adicionalmente, lo que requiere de una consideración especial. Se pretende difundir los nuevos patrones de explotación con otras APL para actualizar la detección inicial de los trabajadores en situaciones vulnerables. No obstante, se debe prestar atención a quién más tiene acceso a estas. Tan pronto como los explotadores se percatan de que sus patrones de explotación han sido identificados, es probable que los adapten más rápidamente.

En los casos donde las respuestas son precisas y la herramienta puede identificar nuevas prácticas de explotación, existen obvias implicaciones sobre los derechos de los trabajadores explotados: el derecho a no ser sometido a la esclavitud (artículo 4 DUDH), el derecho a no ser sometido a tortura o trato degradante (artículo 5 DUDH), el derecho a trabajar en condiciones satisfactorias (artículo 23 DUDH), el derecho de descansar y gozar su tiempo libre (artículo 24 DUDH), el derecho a tener un nivel de vida adecuado (artículo 25 DUDH), el derecho a la no interferencia estatal o personal en los derechos mencionados anteriormente (artículo 30 DUDH). Es importante resaltar, aunque el sistema recibe información de un subconjunto de trabajadores (los que fueron entrevistados), existe el potencial de influenciar las condiciones laborales de muchos más.

Como en cualquier sistema, Apprise puede identificar erróneamente los patrones lo que genera que se preste atención en la dirección equivocada. Aunque esto represente un uso ineficiente de los recursos (APL y el tiempo del trabajador), no tiene ninguna implicación significativa en los derechos de los trabajadores. Esta información se utilizaría para respaldar las investigaciones, que desmentirían la predicción.

Conclusión

El aprendizaje automático ha sido aplicado en muchos contextos de justicia penal. En nuestro trabajo, aspiramos entender si existe la posibilidad de utilizarlo para predecir los patrones variables de explotación, un rubro que ha recibido poca atención en la actualidad.

En este informe describimos el trabajo que estamos realizando para detectar señales de explotación laboral y trabajo forzoso con los trabajadores que se encuentran en situaciones vulnerables. El informe ofrece una explicación de Apprise, sistema hábil que desarrollamos y que utiliza la APL actualmente en Tailandia para ayudar en la primera etapa de detección de identificación de víctimas. También discute el potencial del uso del aprendizaje automático para utilizar las respuestas de las entrevistas a fin de predecir los patrones variables de explotación. Reflexionamos sobre este sistema propuesto para comprender las implicaciones de derechos humanos que esta nueva tecnología incluiría. Aunque existe una obvia implicación en el derecho a la privacidad de los trabajadores, describimos los pasos que tomamos para minimizar esta imposición. Además, defendemos el uso del sistema para proteger los derechos humanos fundamentales de los trabajadores que se encuentran atrapados actualmente en situaciones laborales de explotación.

A las autoras les gustaría reconocer la financiación de Humanity United y The Freedom Fund para el desarrollo del sistema inicial Apprise. Este se desarrolló con la colaboración de The Mekong Club, ONG que lucha contra la trata de personas en Hong Kong.

Inicia la conversación

Autores, por favor Conectarse »

Guías

  • Por favor, trata a los demás con respeto. No se aprobarán los comentarios que contengan ofensas, groserías y ataque personales.