BERLÍN – Alemania está tomando medidas enérgicas contra el discurso de odio en línea en medio de un aumento del extremismo de derecha, pero los críticos advierten que las libertades civiles terminarán como un daño colateral.
Horas antes de que un extremista de extrema derecha disparara el miércoles a nueve personas en dos bares de narguile en el centro de Alemania, el gobierno de la canciller Angela Merkel aprobó la primera de las dos leyes para endurecer aún más sus reglas, que ya se consideran algunos de los discursos de gobierno más estrictos del mundo en línea.
"Los crímenes de odio finalmente deberían terminar donde pertenecen: en la corte", dijo la ministra de Justicia Socialdemócrata, Christine Lambrecht, luego de que el proyecto de ley fuera aprobado por el gobierno.
El proyecto de ley obligará a las compañías de redes sociales a informar de manera proactiva el contenido potencialmente criminal en sus plataformas a las fuerzas del orden.
Mientras que el gobierno de Lambrecht argumenta que las medidas son necesarias para contrarrestar un aumento en el extremismo de derecha Sin embargo, al proliferar en línea, una alianza improbable de opositores está haciendo sonar la alarma sobre posibles daños a las libertades civiles.
La ley de discurso de odio de Berlín ofrece un caso de prueba importante para tomar medidas enérgicas contra el discurso de odio en línea.
"No hay duda de que nuestra sociedad tiene un problema con el extremismo de derecha y el discurso de odio", dijo Elisabeth Niekrenz, de la organización de libertades civiles con sede en Berlín Digitale Gesellschaft (Digital Society), "lo que me preocupa profundamente. Pero las medidas presentadas (por Lambrecht) infringen el derecho de las personas a la autodeterminación informativa, abren la puerta a más vigilancia, otorgan a las fuerzas del orden público más poderes para intervenir y permiten una mayor recopilación de datos ".
La organización de Niekrenz es uno de los 13 signatarios de una carta abierta a Lambrecht a principios de este mes, que calificó las nuevas reglas de discurso de odio como "un peligro enorme para las libertades civiles". Otros signatarios incluyen el sindicato de periodistas de Alemania, la Sociedad Alemana de Informática, así como organizaciones de cabildeo para la industria tecnológica, como la Asociación de la Industria de Internet (eco), que cuenta con Facebook, Google y Twitter entre sus miembros.
Niekrenz agregó que si bien los intereses de su organización se oponían a los de Big Tech "en muchas áreas", por ejemplo, en el manejo de datos de usuarios, "es justo decir que aquí, las grandes plataformas tienen un rol peculiar en el que" se supone que debemos interpretar a los alguaciles adjuntos y tener que decidir qué es legal y qué no lo es ".
"Esto no me molesta porque siento pena porque Facebook o Google tengan que hacer el trabajo, sino porque me preocupan las consecuencias sociales", agregó.
El ministerio de justicia alemán negó una solicitud de respuesta a sus críticas, citando una política de no comentar sobre cartas abiertas.
El alboroto en Alemania subraya cuán desafiante es la regulación del contenido en línea para los países democráticos | Odd Andersen / AFP a través de Getty Images
La ley de discurso de odio de Berlín también proporciona un caso de prueba importante para tomar medidas enérgicas contra el discurso de odio en línea en un momento en que la Comisión Europea está examinando nuevas reglas para vigilar el contenido en línea, y observa de cerca cómo Alemania, Francia y el Reino Unido están manejando el asunto.
El alboroto en Alemania subraya cuán desafiante es la regulación del contenido en línea para los países democráticos. Los críticos advierten en particular que los esfuerzos bien intencionados en Europa podrían proporcionar una plantilla para la censura de los opositores políticos en los países autocráticos.
Sin embargo, Lambrecht insinuó que el libro de reglas de Berlín podría servir como modelo a seguir para otros países de la UE. Tras una reunión a principios de este mes con colegas de los Países Bajos, Luxemburgo, Francia, España e Italia, dijo que Alemania impulsará la cooperación y las "nuevas reglas europeas" para combatir el discurso de odio en línea durante su presidencia rotatoria de la UE a partir de este verano.
"En muchos países europeos, los populistas y los extremistas están protestando contra la democracia, los disidentes y las minorías", dijo. "Las plataformas son las mismas, y los mensajes racistas y antisemitas son similares".
¿Qué define el "odio"?
Los esfuerzos de Alemania para apagar el discurso de odio en línea pasaron un hito en el verano de 2017, cuando el parlamento aprobó su Ley de Cumplimiento de la Red (NetzDG).
La ley obliga a las grandes plataformas de redes sociales a eliminar contenido criminal potencial, a veces en tan solo 24 horas. También les exige que proporcionen a los organismos encargados de hacer cumplir la ley los datos de los usuarios en ciertos casos.
Sin embargo, desde el principio, los críticos advirtieron que el pionero libro de reglas, el primer efecto importante de una democracia occidental en reinar en el discurso de odio en línea, tenía debilidades.
Esto se debe principalmente a que luchar contra el "discurso de odio" es más fácil decirlo que hacerlo, advierten los expertos legales, sobre todo porque el "odio" no se considera, en sí mismo, un delito penal. Por cada caso de un "discurso de odio" denunciado, los fiscales deben decidir si y bajo qué ley constituye un delito penal.
Una segunda ley, que se encuentra en una etapa anterior, tiene como objetivo facilitar que los usuarios denuncien contenido ilegal y cuestionen las decisiones de contenido de las plataformas de Internet.
Si bien en algunos casos, el derecho penal alemán es sencillo, sin dejar dudas, por ejemplo, de que negar el Holocausto es un delito, es más ambiguo en otras áreas. Decidir si una publicación califica como Volksverhetzung (incitación al odio) es uno de esos casos.
Hasta ahora, NetzDG se ha asegurado principalmente de que el contenido ilegal se elimine a un ritmo mayor que en otros países, pero hace poco para que los autores de contenido dañino sean legalmente responsables.
Esto es lo que el Ministro de Justicia Lambrecht pretende abordar con la ley de esta semana, que obliga a las plataformas a denunciar contenido ilegal. El proyecto de ley aún debe aprobarse en ambas cámaras del parlamento antes de surtir efecto.
Una segunda ley, que se encuentra en una etapa anterior, tiene como objetivo facilitar que los usuarios denuncien contenido ilegal y cuestionen las decisiones de contenido de las plataformas de Internet. También requiere que las empresas divulguen más información de la que se requería previamente en sus informes de transparencia semestrales, incluidos detalles sobre qué grupos de personas se ven particularmente afectados por el discurso de odio o cómo las empresas están utilizando inteligencia artificial para detectar contenido dañino.
Los últimos dos puntos son especialmente preocupantes para los defensores de las libertades civiles como Elisabeth Niekrenz.
Ella dijo que esto conduciría a un aumento en la información compartida y almacenada por las plataformas, y alentaría a las compañías a automatizar la moderación de contenido.
Google, Facebook y Twitter declinaron hacer comentarios para este artículo.
Quiere más análisis de POLITICO? POLITICO Pro es nuestro servicio de inteligencia premium para profesionales. Desde servicios financieros hasta comercio, tecnología, seguridad cibernética y más, Pro ofrece inteligencia en tiempo real, información profunda y primicias que necesita para mantenerse un paso adelante. Email [email protected] para solicitar una prueba gratuita.