Un grupo de reflexión política pro gubernamental ruso ha lanzado lo que llaman un «sistema predictivo y de control» para vigilar las acciones relacionadas con marchas y protestas prohibidas dentro de las redes sociales. Aunque se han desarrollado sistemas similares en todo el mundo, los expertos dudan que este sistema en particular sea tan peligroso como suena.
El software inició una prueba de funcionamiento el 18 de mayo recorriendo una sección de una red social no identificada, según informó Yevgeny Venediktov, director del Centro para la Investigaciones de la Legitimidad y la Protesta Política, al diario afín al Kremlin, Izvestia. Venediktov informó que el sistema sólo vigilaría a segmentos claves específicos de las redes, como los grupos o los perfiles de usuarios, recopilados por voluntarios dentro de una base de datos y clasificados como «sociólogos y politólogos». Quienes recopilaron los objetivos de la vigilancia prestaron especial atención a los grupos con orientación política, comunidades de protesta cívica y foros de debate local, observando los «me gusta» y retuits de contenidos publicados por «grupos extremistas».
Venediktov aseguró que el nuevo software, llamado «El demonio de Laplace» (nombre tomado de un experimento de pensamiento matemático del erudito francés del siglo XIX, Pierre-Simon Laplace, que describe a un «demonio» omnisciente), será capaz de identificar los preparativos de las protestas mucho antes de que tengan lugar, y podrá facilitar esa información a la policía, los académicos y los funcionarios del gobierno.
¿Cómo funciona la vigilancia predictiva?
Jay Ulfelder, un politólogo e investigador afiliado a Data-Pop Alliance, informó a RuNet Echo que es posible desarrollar sistemas que utilicen las publicaciones de redes sociales y otros contenidos crudos para anticipar las actividades de protesta «con cierta precisión, especialmente cerca del momento en que tendrá lugar el evento».
The simplest version of this is old-fashioned eavesdropping—watch specific social media feeds or group forums for planning activity—and that probably still works in many cases. More sophisticated versions would watch those spaces and possibly many other forms of unstructured data, convert those streams to structured data through things like natural language processing and imagery analysis, and then use statistical models or machine learning to generate forecasts about the activity of interest.
La versión más simple de esto es la antigua interceptación (observar noticias específicas o grupos de foros de las redes sociales donde se planifican actividades) y probablemente aún funciona en muchos casos. Las versiones más sofisticadas observarían esos espacios y posiblemente muchas otras formas de datos sin estructurar, convertirían esas secuencias en datos estructurados mediante elementos como el procesamiento del lenguaje natural y análisis de imágenes, y posteriormente utilizarían modelos estadísticos o de aprendizaje automático para generar pronósticos de las actividades de interés.
Ulfelder cita los ejemplos de EMBERS (abreviación en inglés de «reconocimiento de sucesos de modelo temprano utilizando sustitutos»), un sistema predictivo financiado por el gobierno de los Estados Unidos, y la vigilancia de redes sociales del gobierno chino, que anticipa las acciones colectivas y censura los debates que podrían desencadenarlas. La policía de Egipto también ha intentado construir un sistema de control completo para vigilar las redes sociales en busca de expresiones de disenso y contenido «peligroso para la seguridad pública». Aunque los algoritmos predictivos en cada caso son distintos y no siempre evidentes, Ulfelder afirma que al menos existen «pruebas circunstanciales de que esto puede llevarse a cabo razonablemente bien».
¿Qué será vigilado?
Aunque no queda claro qué redes sociales puede vigilar el software por el momento y cuáles son las capacidades del sistema, Venediktov informó a Izvestia que el plan era empezar con la vigilancia de Twitter en setiembre, y calificó a la plataforma como una de las peores ofensoras en cuanto a albergar «contenidos extremistas».
Мы провели исследование и выяснили, что именно эта соцсеть является не только лидером среди других социальных медиа по числу размещенных на нем ссылок на экстремистский контент, но и к тому же не удаляет их по требованию Роскомнадзора.
Hemos realizado algunas investigaciones y descubrimos que esta red en particular no sólo es líder entre otras redes sociales en cuanto a la cantidad de enlaces hacia los contenidos extremistas, sino que además no elimina los enlaces cuando se lo solicita Roscomnadzor.
Twitter, Facebook y otras redes sociales han sido utilizadas por los activistas y miembros de la oposición rusa como una alternativa a los medios masivos, mayormente apropiados por el Kremlin, para organizar marchas de protesta y facilitar el debate sobre problemas políticos y sociales fundamentales. Aunque, como rutina, el organismo ruso de vigilancia de los medios, Roscomnadzor, exige a estas redes la eliminación de los contenidos relacionados con actividades políticas clasificadas como «extremistas», estos requerimientos generalmente no se cumplen y sólo se eliminan algunas páginas. Roscomnadzor ha estado especialmente disgustado con Twitter pues la empresa se rehúsa a cumplir con la mayoría de las exigencias de eliminación de contenidos problemáticos.
¿Qué tan grave es la amenaza?
Aunque el nuevo software se presenta como una brillante innovación, los servicios de seguridad rusos ya cuentan con un arsenal de herramientas para vigilar las expresiones públicas en la red, como el software de Archivo semántico, utilizado por los servicios de seguridad y la policía para vigilar los medios masivos e internet, donde se incluyen blogs y redes sociales.
Andrei Soldatov, editor del sitio de vigilancia e inteligencia ruso Agentura.ru, informó a RuNet Echo que los sistemas de vigilancia rusos se empezaron a desarrollar para controlar la información estructurada, como los informes periodísticos, por lo que hacerlos funcionar con datos no estructurados como el contenido de las redes sociales, les exige ser relativamente pequeños y ajustados a tareas específicas. Otro problema, según Soldatov, consiste en que estos sistemas sólo pueden trabajar con cuentas abiertas (no con páginas de perfil privadas o cuentas de Twitter bloqueadas) e incluso, con frecuencia, tienen dificultades para acceder a contenidos y metadatos, como sucede en el caso de Facebook.
Con la cantidad de herramientas de vigilancia que ya funcionan en varias agencias del gobierno, Soldatov cree que el nuevo software Demonio de Laplace «no parece ser tan serio», y afirma que los grupos de reflexión y Venediktov, a quien tilda de «un doctor astuto de bajo nivel de Novgorod», sólo buscan sacar provecho de una moda lucrativa.
This Center [for Research in Legitimacy and Political Protest] is not a big thing. It seems to me that it’s an effort to raise the public profile of the Center and find a way to government funding. Russian secret services have their own systems, like Semantic Archive, the [Presidential] Administration and the ministries use their own systems, and this Venediktov is merely trying to find his way to this profitable market.
Este Centro [para la Investigación de la Legitimidad y la Protesta Política] no es gran cosa. Parece tratarse de un esfuerzo por elevar el perfil público del Centro y conseguir la financiación oficial. Los servicios secretos rusos cuentan con sistemas propios, como el Archivo Semántico, el gobierno (presidencial) y los ministerios utilizan sus propios sistemas, y este Venediktov sólo intenta meterse en este productivo mercado.
Mientras esperamos a que salgan a la luz los detalles sobre el nuevo sistema predictivo de vigilancia, hay mucho de qué preocuparse con los casos existentes de usuarios de redes sociales sancionados por publicar contenidos indeseables y «material extremista». Con la presión del Kremlin sobre las redes sociales y otros sitios web para que almacenen los datos de los usuarios dentro de Rusia y exigiéndoles eliminar cada vez más contenidos con carga política, parece que la vigilancia predictiva puede ser sólo un problema más de los que podrían enfrentar los activistas rusos en su lucha por conseguir un espacio para trabajar y opinar en la red.