Captura de pantalla del canal de Channel 4 News en YouTube.

Las guerras del siglo XXI suelen describirse como conflictos de alta tecnología, que dependen cada vez más de la inteligencia artificial (IA), como por ejemplo: la ocupación estadounidense de Afganistán y la invasión rusa de Ucrania. Sin embargo, el último ataque de Hamás contra Israel también demuestra que el exceso de confianza en drones, datos y herramientas digitales puede crear vacíos de seguridad devastadores.

Para entender cómo en Ucrania la IA le da forma a una guerra asimétrica contra un agresor ruso mucho mayor, Global Voices conversó con Anton Tarasyuk, experto en datos e IA, y cofundador y director de Mantis Analytics, empresa con sede en Kiev. Además es periodista y escribe artículos de opinión de temas de actualidad.

La entrevista fue por correo electrónico tras una reunión presencial en Kiev, y está editada por razones de estilo y brevedad.

Retrato de Anton Tarasyuk, foto utilizada con permiso.

Filip Noubel (FN): ¿Cómo utilizan las fuerzas ucranianas la IA en la guerra de la desinformación? ¿Quién la utiliza, solo el Gobierno o también otros agentes?

Anton Tarasyuk (AT): Let's begin by acknowledging that the Russo-Ukrainian war stands as the most digitized and AI-dependent conflict in history. AI plays a significant role both on the battlefield and in the information domain. In fact, the full-scale war initially commenced not through kinetic warfare, but through information warfare. Before February 24, 2022, Russia was actively launching cyberattacks and hostile information campaigns in an attempt to sow confusion, fear, and distrust among Ukrainian citizens.

Were they successful? Strategically, the unfolding of the war indicates that they were not. However, especially in the early stages, they achieved tactical successes. Take, for instance, the “graffiti marks” campaign, which falsely claimed that supposed Russian agents were leaving specific graffiti marks on the streets to guide Russian artillery and air strikes. This may sound absurd, but people were indeed searching for these marks, and individuals could get into trouble if they were mistakenly associated with these imaginary “marks.” It has since become evident that it was a disinformation campaign, presumably of Russian origin, designed to spread chaos and panic.

The role of AI in such disinformation campaigns is substantial. With generative technologies, the cost of producing textual and visual content has been reduced to almost nothing, requiring only basic digital literacy. In such a context, only AI can effectively combat AI. No human mind can operate at the required speed. Therefore, there is no choice but to employ these technologies.

Regarding the users of our technology, we initially focused on the governmental sector, specifically the National Security and Defense Council of Ukraine. However, our primary aim is not limited to the government or security institutions. Information warfare is rapidly extending into the corporate sector. Billions of dollars are lost annually due to disinformation campaigns, fraud relying on deep fakes, and similar activities, all fueled by AI. The whole informational infrastructure which secures our informed decision-making in defense, politics and business, is under risk. This is why we are actively expanding our reach into the corporate sector.

Anton Tarasyuk (AT): Empecemos por reconocer que la guerra ruso-ucraniana es el conflicto más digitalizado y dependiente de la IA de la historia. La IA desempeña un papel importante en el campo de batalla y en el ámbito de la información. Ciertamente, la guerra a gran escala no comenzó a través de la guerra cinética, sino a través de la guerra de la información. Antes del 24 de febrero de 2022, Rusia estaba lanzando activamente ciberataques y campañas de información hostil en un intento de sembrar confusión, miedo y desconfianza entre los ciudadanos ucranianos.

¿Tuvieron éxito? Estratégicamente, el desarrollo de la guerra indica que no. Sin embargo, tuvieron triunfos tácticos, sobre todo en las primeras fases. Tomemos por ejemplo, la campaña de las “marcas de grafiti”, que afirmaba falsamente que supuestos agentes rusos estaban dejando marcas de grafiti específicas en las calles para guiar los ataques aéreos y de artillería rusos. Puede parecer absurdo, pero la gente las buscaba y las personas podían meterse en problemas si se les asociaba por error con esas “marcas” imaginarias. Desde entonces se ha hecho evidente que se trataba de una campaña de desinformación, al parecer de origen ruso, diseñada para sembrar el caos y el pánico.

El papel de la IA en estas campañas de desinformación es importante. Con las tecnologías generativas, el costo producir contenidos textuales y visuales se ha reducido casi a cero, pues se necesita tan solo unos conocimientos digitales básicos. En este contexto, sólo la IA puede enfrentarse a sí misma. Ninguna mente humana puede operar a la velocidad requerida, por lo tanto, no queda más remedio que emplear estas tecnologías.

En cuanto a los usuarios de nuestra tecnología, al comienzo nos centramos en el sector gubernamental, en concreto en el Consejo Nacional de Seguridad y Defensa de Ucrania. Sin embargo, nuestro objetivo principal no se limita al Gobierno o a las instituciones de seguridad, ya que la guerra de la información se está extendiendo con rapidez también al sector empresarial. Cada año se pierden miles de millones de dólares por campañas de desinformación, fraudes sustentados en ultrafalsos o deepfakes, y actividades similares, todas alimentadas por IA. Está en peligro toda la infraestructura informativa, que asegura nuestra capacidad para tomar decisiones informadas en materia de defensa, política y negocios. Por eso estamos ampliando activamente nuestro alcance al sector empresarial.

FN: ¿Cómo utiliza Rusia IA para imponer su discurso no solo en Ucrania, sino en otros lugares, incluidos los países en desarrollo?

AT: Many of the countries in the Global South are, with all due reservations, electoral democracies. This means that public opinion matters. It means that influencing public opinion is crucial. This, in turn, underscores the importance of informational campaigning. When you combine all of these factors with the historical skepticism toward the so-called “West,” it creates the perfect ground for Russians to disseminate their messaging.

Based on our assessment, Russia's informational campaigns generally revolve around fostering anti-Western sentiment, often framing Russia as the leader of an elusive “anti-Western coalition.” Remember Putin's sudden emergence with his “anti-colonial” rhetoric? It serves as a narrative tailored for the Global South.

To promote this messaging, Russia employs various tactics, not only resorting to malinformation (information that is both true and harmful) but also resorting to full-blown disinformation (information that is both false and harmful). Regarding Ukraine, the content they disseminate there is simply outrageous.

AI is poised to assume an increasingly pivotal role in this dissemination, especially as the traditional media infrastructure continues to erode. Is the West prepared? It had better be, before it's too late. Some hints to the solutions lie here, in Ukraine, since we were first to address the challenge with Russian aggression.

AT: Muchos de los países en desarrollo son, con las debidas reservas, democracias electorales en las cuales la opinión pública importa. Esto a su vez implica que es crucial influir en la opinión pública, lo que destaca la importancia de las campañas informativas. Cuando se combinan todos estos factores con el escepticismo histórico hacia el llamado “Occidente”, se crea el terreno perfecto para que los rusos difundan sus mensajes.

Según nuestra evaluación, las campañas informativas de Rusia giran por lo general en torno al estímulo del sentir antioccidental, lo que a menudo enmarca al país como líder de una esquiva “coalición antioccidental”. ¿Recuerda la repentina aparición de Putin con su retórica “anticolonial”? Sirve como una narrativa hecha a medida para los países en desarrollo.

Para promover este mensaje, Rusia emplea diversas tácticas: no sólo recurre a la malinformación (información que es a la vez verdadera y perjudicial), sino también a la desinformación total (información que es a la vez falsa y perjudicial). En cuanto a Ucrania, el contenido que difunden allí es simplemente indignante.

La IA está a punto de asumir un papel cada vez más fundamental en esta difusión, en especial a medida que la infraestructura de los medios tradicionales sigue debilitándose. ¿Está preparado Occidente? Más vale que lo esté, antes de que sea demasiado tarde. Algunos atisbos de posibles soluciones se encuentran aquí, en Ucrania, ya que fuimos los primeros en enfrentar el desafío de la agresión rusa.

FN: ¿Y el reconocimiento facial? ¿En qué contexto se utiliza? ¿Ve posibles zonas de peligro en su uso?

AT: To be candid, in today's landscape, if you seek in-depth intelligence, you can uncover a wealth of insights by attentively monitoring what people are discussing, where they are doing so, and in what manner. This is precisely what we specialize in.

Visual content analysis will raise challenging questions, the ones you may categorize as “danger zones.” Paris-based exiled Russian economist Sergei Guriev aptly terms certain countries “informational autocracies” or “spin-dictatorships,” which has been the Russian model for manipulating the informational landscape.

The question for us is: what's the use of opposing these informational autocracies if we are simultaneously building a surveillance state? Hence, our commitment to democratic values. We are indeed very serious about it.

Nevertheless, and here's my futuristic prediction, some of our fundamental beliefs regarding transparency will need to be reimagined in the near future. Not because of the will of some company or institution, but because of what German philosopher Jürgen Habermas calls “The structural transformation of the public sphere,” caused by new technologies. Societies should prepare themselves for this shift.

AT: Para ser sincero, si se busca recopilar información exhaustivamente en el panorama actual, se puede acceder a un caudal de conocimiento tan solo al observar con atención lo que la gente comenta, dónde y cómo comenta. En eso precisamente estamos especializados.

El análisis visual de contenido planteará preguntas desafiantes, que pueden categorizarse como “zonas de peligro”. El economista ruso exiliado Sergei Guriev, que vive en París, nombra acertadamente a algunos países como “autocracias de la información” (spin-dictatorships), que ha sido el modelo ruso para manipular el panorama informativo.

La pregunta para nosotros es: ¿de qué sirve oponerse a estas autocracias de la información si al mismo tiempo estamos construyendo un Estado de vigilancia? De ahí nuestro compromiso con los valores democráticos. Nos lo tomamos muy en serio.

Sin embargo, y aquí va mi predicción futurista, algunas de nuestras creencias fundamentales sobre la transparencia tendrán que ser reimaginadas en un futuro cercano. No por voluntad de alguna empresa o institución, sino por lo que el filósofo alemán Jürgen Habermas llama “la transformación estructural de la esfera pública“, provocada por las nuevas tecnologías. Las sociedades deben prepararse para este cambio.

FN: ¿Existe en Ucrania una legislación actualizada sobre el uso y control de la IA?

AT: For a considerable period, Ukraine operated as a frontier of minimal AI regulation. Currently, this subject is garnering increasing attention and debate. The Ministry of Digital Transformation recently unveiled a roadmap for AI regulation.

Given that many emerging technologies, particularly in the realm of defense tech, heavily rely on AI, the need to align our regulatory frameworks with those of the EU and the US is becoming progressively urgent. These considerations are far from abstract, as even fundamental business aspects such as securing venture capital may be contingent on this alignment.

What is clear is that we must chart a course that fosters AI innovation without stifling it through overregulation, which some experts argue characterizes the EU market. While the Silicon Valley mantra of “move fast and break things” may be too perilous for our context, as any disruption during times of conflict can carry life-threatening consequences, we also recognize the risk of China and Russia's centralized, top-down AI regulations.

Navigating a path forward for Ukraine presents a challenge. Will we rise to meet it? I am confident that we will, for we have no other choice.

AT: Durante algún tiempo, Ucrania funcionó como un lugar de regulación mínima en materia de IA. En la actualidad, este tema suscita cada vez más atención y debate. El Ministerio de Transformación Digital ha presentado hace poco una guía para su regulación.

Dado que muchas tecnologías emergentes dependen en gran medida de la IA, en particular en tecnología de defensa, la necesidad de alinear nuestros marcos reguladores con los de la Unión Europea y Estados Unidos se está volviendo cada vez más urgente. Estas consideraciones distan mucho de ser abstractas, ya que incluso aspectos empresariales fundamentales pueden depender de este consenso, como obtener capital riesgo.

Está claro que debemos trazar un camino que fomente la innovación en IA, pero sin asfixiarla con excesiva regulación, algo que según algunos expertos caracteriza al mercado de la Unión Europea. Si bien el mantra de Silicon Valley “moverse rápido y romper cosas” puede ser demasiado peligroso para nuestro contexto, ya que cualquier alteración en tiempos de conflicto puede acarrear consecuencias potencialmente mortales, reconocemos también el riesgo de las normativas centralizadas y verticales de China y Rusia en el ámbito de la IA.

Recorrer un camino hacia adelante en Ucrania supone un reto. ¿Estaremos a la altura? Estoy seguro de que sí, porque no tenemos otra opción.