«Primero la gente». Mark Zuckerberg, presidente de Facebook, en la conferencia F8 de Facebook. Foto de pestoverde via Flickr (CC BY 2.0).

En un intento por suprimir los discursos de odio y discriminación racial de internet, en 2017 los legisladores alemanes redactaron una de las leyes europeas más controvertidas para regular las plataformas en línea.

La ley es conocida como «NetzDG», forma abreviada del nombre alemán Netzwerkdurchsetzungsgesetz [Ley de Aplicación de la Red], y exige a las grandes empresas de redes sociales que apliquen activamente las leyes de expresión alemanas en sus plataformas, lo que ha recibido una avalancha de críticas tanto en Alemania como en el extranjero.

La ley impone multas a las redes sociales si no eliminan contenido «abiertamente ilegal» dentro de las 24 horas de recibir una queja sobre su contenido, y concede a las empresas hasta siete días para considerar la eliminación de más material ambiguo. Puesto que el Código Penal de Alemania ya define lo que es el discurso de odio, la ley no establece nuevas medidas ni definiciones, además de exigir a las redes sociales más importantes que respondan a los avisos legales relacionados con la ley a través de una dirección alemana.

En cambio, obliga a las empresas a controlar el contenido polémico o, en su lugar, afrontar multas astronómicas de hasta 50 millones de euros por violaciones reiteradas. Aunque esta medida aumenta la presión hacia las empresas para que actúen, también las obliga a decidir qué es contenido de odio y qué no lo es. El corto período que deja la ley para que las empresas eliminen el contenido de odio podría llevarlas a cometer errores y a que las plataformas se inclinen hacia la censura automática para evitar multas considerables.

La NetzDG tiene su origen en el actual momento político de Europa, más que en las largas y tensas relaciones sobre el poder y los derechos de las plataformas de redes sociales sobre albergar contenido en línea.

Durante el período de elecciones de Alemania de 2017, el temor de que la derecha representada por la Alternativa por Alemania (AfD) ganara asientos en el Parlamento originó una cacofonía de voces que presionaba a los legisladores para que evitasen la presencia de contenido de odio en redes sociales, y Facebook era el objetivo principal. Esto ahogó, en gran medida, las voces que pedían un planteamiento mesurado que requeriría una mayor transparencia y responsabilidad de las plataformas de redes sociales para proteger el derecho y los intereses de los usuarios.

Aunque todas las empresas de redes sociales deben cumplir la ley, se entendía entre los expertos en política que esta «Ley Facebook» tenía como objetivo llamar al orden a una empresa en concreto.

Lo que ahora hay en Alemania es una ley que exige a Facebook respeto y atención desproporcionada, sin obligar a la empresa a modificar sus prácticas a favor del interés público.

Cada vez que los legisladores sienten presión para mitigar sistemáticamente el contenido dañino de internet, parece que transfieren un poco más la responsabilidad real de regular el contenido a las empresas privadas. El resultado final es que se obliga a Facebook a decidir más, no menos, el contenido que debería seguir en internet.

Aunque técnicamente la ejecución de la ley permanece dentro de las fronteras alemanas, sus efectos se pueden sentir en todo el mundo. ¿Se puede modificar la ley para evitar más daño a los derechos humanos en internet? ¿O se debería eliminar completamente?

¿Mejor gobierno? Es difícil decirlo.

En la práctica, la NetzDG da lugar a una experiencia de usuario ligeramente diferente para los usuarios alemanes de Facebook que se encuentren contenido que piensen que es ilegal. Cuando los usuarios denuncien contenido potencialmente ilegal, serán dirigidos a una página de quejas independiente, a través de la cual, pueden pedir a Facebook que retire contenido para cumplir la ley NetzDG. La página es completamente independiente de los mecanismos existentes y que otros usuarios de Facebook usan para denunciar contenido inadecuado en el resto del mundo. La página parece que también tiene un mecanismo diferente detrás.

Imagen del autor de la página de quejas de la NetzDG.

La mayor parte de lo que hace la ley NetzDG es señalarnos las normas legales alemanas ya existentes sobre contenido ilegal, pero lo más importante es que también fija plazos de tiempo ajustados y multas para exigir a las empresas que eliminen contenido ilegal.

Sin embargo, todavía sabemos muy poco sobre la manera en la que Facebook determina qué contenido cumple la ley alemana y qué no.

¿Es una persona o un algoritmo el que revisa el contenido denunciado en Facebook? Si se encarga una persona, ¿vive en San Francisco, Filipinas o Dublín? ¿Qué idiomas habla? ¿Conoce el contexto cultural de cada publicación denunciada? ¿Tendrá esa persona alguna formación legal? ¿Quién toma la decisión final en el proceso de revisión del contenido?

No lo sabemos, porque Facebook no publica esta información. El proceso podría variar radicalmente dependiendo de las respuestas a estas preguntas.

Transparencia, pero no la suficiente

Un aspecto más positivo de la NetzDG es la exigencia a las empresas de publicar informes de transparencia detallados y periódicos sobre el resultado de la puesta en práctica de la ley. Sin embargo, las categorías de información para el informe de transparencia propuesto por la ley NetzDG no ofrecen un significativo conocimiento de cómo Facebook toma decisiones. La transparencia exigida solo se extiende a la ejecución de la propia ley y no incluye todas las decisiones de Facebook que dieron como resultado la eliminación de contenido. Las decisiones tomadas dentro del ámbito de las Condiciones de Servicios son totalmente independientes, es decir, la ley no exige ninguna transparencia sobre estas decisiones.

Además, la NetzDG exige un tipo de transparencia a Facebook que ni el Gobierno alemán cumple en sus propias instituciones. Si es imposible que las autoridades públicas alemanas proporcionen una perspectiva nacional de todo el contenido eliminado o la información solicitada, mucho menos una empresa va a dar un desglose de estos registros. Empresas alemanas, como la plataforma de correo electrónico Posteo, manifiestan que una gran parte de las solicitudes que reciben del Gobierno sobre información del usuario es ilegal, según la ley alemana. ¿Podría significar esto que una parte similar de las solicitudes para la eliminación de contenido es también ilegal? La información pública sobre estas solicitudes podría ayudar a responder esta pregunta.

Al mismo tiempo, la ley NetzDG intenta imponer algunas medidas de transparencia adicionales sobre el proceso de toma de decisiones de Facebook al exigirle a la empresa informes de transparencia periódicos sobre cómo se lleva a cabo la ley.

Manifestación contra AfD en Colonia, Alemania, abril de 2017. Foto de Elke Wetzig vía Wikimedia (CC BY-SA 4.0).

Finalmente, la ley pierde la oportunidad de definir una normativa común para la divulgación de información, que haría que las empresas privadas consultaran la ley y la tomaran en consideración. Esto significa que cada empresa proporcionará la información en formatos diferentes y con diferentes mediciones, por lo que las comparaciones significativas entre Facebook y Twitter, por ejemplo, serán esencialmente imposibles. Las empresas privadas pudieron y debieron haber desarrollado hace tiempo, y conjuntamente, una normativa común sobre la publicación. Sin embargo, ya que muestran tan poco interés en comparar sus datos, las organizaciones de la sociedad civil deben involucrarse y definir normativas apropiadas.

Todo esto hace imposible que una tercera parte independiente pueda contrastar informes de transparencia del sector público y del sector privado. No es muy difícil garantizar que la transparencia proporcionada, tanto por el sector público como privado, asegure que los informes realizados sean verificables de forma independiente y, hasta la fecha, más responsables que si fueran realizados por un único actor. No obstante, en detrimento del interés público, la ley no llega tan lejos.

Se ignoran los fallos de la autoregulación

Quizá de una forma más absurda, mientras la mayor parte del debate público sobre la ley se llenaba de informes sobre cómo el régimen de autoregulación existente en Facebook no funciona, hay unos pocos aspectos de la NetzDG que la mejoran.

Esto significa que Facebook todavía puede retirar fotos de madres dando de lactar o discursos políticos no violentos que se consideren ofensivos, mientras que mantiene en su plataforma incitaciones a la violencia.

Una normativa mínima sobre la autoregulación en Facebook contribuiría considerablemente a responder muchas preguntas problemáticas sobre la regulación del contenido en Facebook, de la que todavía no sabemos casi nada.

Por ejemplo, las personas responsables de decidir sobre el contenido deberían tener un nivel mínimo de formación legal, en derecho alemán, para garantizar que pueden tomar decisiones efectivas que respetan la ley alemana.

Una espiral descendiente de desregulación

En el Ministerio de Justicia alemán, el autor de la ley NetzDG dijo: «el poder y el control conlleva responsabilidad».

No obstante, los legisladores han encontrado una paradoja normativa por la singular forma y el ámbito de influencia de las plataformas de redes sociales. A medida que los legisladores se concentran más en «hacer algo sobre Facebook», ellos mismos se meten en una espiral decreciente de desregulación. Tal vez irritados por las características únicas de las plataformas de redes sociales, los legisladores han volcado el poder de tomar decisiones y la responsabilidad a las empresas, de una forma que ni es útil ni efectiva para resolver el problema. Por lo tanto, están privatizando decisiones que debería tomar una autoridad independiente. Los legisladores, en su afán de hacer lo correcto, inventan otra normativa que solamente los atrapa en el mismo paradigma normativo y transfiere más responsabilidad a Facebook, Google y muchos otros jugadores (mayormente pequeños).

El sector público falla igualmente

Además, existen otras áreas en los que el sector público podría desempeñar un papel importante para mitigar el discurso de odio en las redes sociales. Si las decisiones judiciales fueran fácilmente accesibles, asequibles y rápidas, los usuarios que se enfrenten al acoso y a las amenazas violentas por internet podrían acudir a la ley en busca de ayuda y protección. En lugar de convertir a Facebook en una fuerza policial privada, la ley podría cargar el peso de la toma de decisiones a actores públicos. Para ello, sería necesario que fuesen conscientes de que se necesitan mejoras para garantizar una toma de decisiones pública, imparcial, rápida y efectiva dentro de los límites constitucionales existentes en la ley alemana y la normativa internacional existente.

Esto no es imposible.

En los Países Bajos, la policía tiene una unidad especial centralizada que se encarga de procesar todas las solicitudes de información y eliminación de contenido de los proveedores de servicios en línea en un esfuerzo para garantizar que son firmes legalmente. Este modelo, combinado con una vigilancia judicial adicional, podría ser un comienzo para que los legisladores alemanes demuestren que quieren arreglar el problema de verdad, no esperar a que Facebook lo arregle por ellos. Traspasándole la responsabilidad a Facebook, el sector público no solo no resuelve el problema, sino que se convierte en un cómplice activo y lo empeora.

¿Podemos mantener una ley quebrantada?

¿Qué significa esto en la práctica? ¿Puede mantenerse la ley? Y si se puede, ¿cómo? En general, los legisladores podrían mejorar la NetzDG reduciendo la cantidad de poder normativo que se le proporciona a las empresas privadas y garantizando, en su lugar, una mayor responsabilidad al sector público y un papel más importante para la sociedad civil.

Podrían eliminar el plazo de 24 horas para eliminar contenido y reemplazarlo con una solución más limitada en la cual Facebook cedería todos los casos, tanto los abiertamente ilegales y los que no, a un organismo alemán autoregulador que tendría más tiempo para estudiarlos.

Podrían invertir en el sistema legal alemán, no solo exigiendo una dirección local a Facebook, sino haciendo el sistema judicial más accesible y garantizando que las decisiones del Gobierno sean más transparentes y responsables.

Una NetzDG corregida podría establecer e imponer un estándar abierto para los informes de transparencia ya obligatorios. Un estándar abierto y acertado permitiría a los ciudadanos contrastar información entre entidades públicas y privadas y usar estos mecanismos para exigir responsabilidad a las empresas y al Gobierno.

A un nivel más alto, la ley podría poner en marcha un debate público y abierto en el que intervinieran todos los interesados importantes y esenciales y en el que se determinara un estándar mínimo de autoregulación para las plataformas en línea, que cumpliese con los derechos humanos y con las normativas internacionales.

Hacia una NetzDG menos terrible

Estos cambios convertirían una ley muy criticada en un texto legal ligeramente menos problemático. Una ley NetzDG, revisada y ajustada a la normativa internacional sobre los derechos humanos y que tenga en cuenta la opinión de expertos legales internacionales mientras se redacta, podría ayudar a reducir un poco el daño que la ley ha ocasionado internacionalmente. El Gobierno alemán necesita preguntarse por qué la Duma rusa está estudiando actualmente una copia de la ley NetzDG y cómo esto afecta a su obligación de defender y proteger los derechos humanos.

Para desarrollar una NetzDG menos terrible, los legisladores necesitan ser, primero, conscientes y, después, escaparse de la espiral de (des)regulación en la que están atrapados actualmente. Hacer lo de siempre no es una forma efectiva de regular los grandes intermediarios privados, pero sí lo es concentrarse en las normas y principios relativos a los derechos humanos básicos.