Los algoritmos no pueden hacerlo todo

La imagen de un automóvil quemado acompañado de la leyenda ‘La votación no ha funcionado, salga a las calles’ es solo un ejemplo de un anuncio dirigido a los residentes de Irlanda del Norte que viven a ambos lados del Muro de la Paz en Belfast.

Lo último de Global Witness estudio muestra que los anuncios que violan claramente los estándares de la comunidad de Facebook, incluido el discurso de odio y la incitación a la violencia, pueden prosperar en la plataforma sin demasiados problemas.

Los anuncios políticos que odian siguen siendo fáciles de comprar en las redes sociales. La ONG ha probado si los anuncios de odio que infringen los estándares se pueden comprar en Facebook, todos los cuales fueron aprobados para su publicación.

Afortunadamente, esta odiosa campaña no llegó a la gente, ya que fue solo un experimento de la ONG para probar el cumplimiento de los procesos internos de las plataformas digitales con sus propias políticas.

Dada la falta de transparencia operativa, no se puede hacer una evaluación clara de si la aprobación se generó mediante herramientas automatizadas o revisión humana, pero dado que las publicaciones violaron claramente los estándares de la comunidad de la empresa, lo más probable es que la decisión se haya tomado mediante algoritmos.

Los algoritmos de Facebook aún promueven la desinformación en Myanmar. Recientemente, una investigación también confirmó que incluso a raíz de la decisión de la junta birmana genocidio contra la minoría musulmana rohingya del país. Facebook se utilizó para incitar a la viol encia contra los rohingya y los algoritmos de Facebook continúan amplificando la desinformación producida por la dictadura militar de Myanmar que

incita violencia contra manifestantes antigubernamentales y a favor de la democracia.

Myanmar y el experimento de anuncios en Irlanda no son casos aislados. El Capitolio del 6 de enero ataque en Washington y el El conflicto israelo-palestino son otros ejemplos de fallas sistémicas en las operaciones de la plataforma digital.

Las teorías de la conspiración de COVID-19 que se han promovido en línea resuenan en la mente de las personas. El impacto de un espacio digital poco saludable, inundado por grandes cantidades de desinformación y discursos de odio, se ha reflejado en las actitudes públicas. En Europa del Este, el 28% de los encuestados, según Tendencias GLOBSEC 2021, cree que COVID-19 es una estratagema para controlar a la población.

Este tipo de creencias no son inofensivas. La alta tasa de teorías de conspiración de COVID está relacionada con la disposición de las personas a vacunarse. Si bien la prevalencia de las narrativas de conspiración no es nada nuevo, la velocidad con la que puede propagarse y dirigirse a los usuarios más vulnerables en línea es un fenómeno completamente nuevo.

Dicho esto, se han realizado mejoras, pero es necesario hacer más. Si bien se lograron avances significativos con ciertas iniciativas, incluida la de la UE voluntario Código de prácticas sobre desinformación, sus esfuerzos para mejorar sus servicios y expresan la necesidad de encontrar una solución. Las discusiones sobre la regulación de las plataformas digitales están comenzando a ganar impulso en los EE. UU., pero los problemas antes mencionados aún continúan causando estragos en el espacio de la información.

No podemos dejarlo a los algoritmos

Años de estudios de casos demuestran que los esfuerzos de las plataformas digitales para mejorar los algoritmos para lidiar con contenidos manipuladores y de odio son insuficientes.

Para hacer frente al problema, se necesitan dos cambios estructurales importantes:

1) Es necesario que exista una conciencia general del alcance total del problema, incluidos los éxitos y fracasos de las operaciones algorítmicas en lo que respecta a la moderación de contenido, que debe informarse de forma transparente al público. Los informes periódicos de las plataformas que ya están en funcionamiento deben complementarse con auditorías independientes, que no solo pueden buscar la verificación de las plataformas ‘ reclamación (es sobre cuánto de contenido eliminado fue detectado por algoritmos, pero examine cuánto se deslizó y potencialmente afectó a miles de usuarios.

2) no podemos preferir un mercado a otro. Las auditorías independientes deben desglosarse en un nivel específico de país para ver cómo se están implementando las medidas dentro de cada sociedad con problemas e idiomas únicos del mundo. ¿El reconocimiento de la incitación al odio funciona de la misma manera en el Reino Unido que en Montenegro? ¿La atención dedicada a los problemas emergentes y las campañas violentas u odiosas es proporcional al tamaño de la comunidad?

La UE como campo de pruebas

Los residentes de la Unión Europea podrían experimentar pronto ciertos cambios debido al hecho de que una auditoría independiente de las acciones de las plataformas encontró que actualmente se propone contenido ilegal dentro del Ley de servicios digitales. Al mismo tiempo, la Comisión de la UE Guia sobre el Código de prácticas reforzado sobre desinformación propone un esquema de seguimiento sólido con indicadores clave de rendimiento que miden la escala y el impacto de las acciones de las plataformas país por país.

Si bien la legislación de la UE proporciona algo de luz al final del túnel, el resto del mundo no puede quedarse fuera. Los principios de auditoría y seguimiento transparentes e independientes pueden aplicarse en todas partes, independientemente del tamaño del país y el tipo de régimen.

La comunidad transatlántica debe trabajar para lograr una acción común, ya que la fuerza de la alianza probablemente se beneficiará de la administración de Biden y del recientemente establecido Consejo de Comercio y Tecnología cuando se trata de impulsar la cooperación. Ahora es el momento adecuado para empezar a hablar de Principios transatlánticos Sin embargo, para un espacio de información en línea saludable, debemos mirar más allá de la UE y la OTAN y, en su lugar, seguir considerando el Código de prácticas de las Naciones Unidas sobre desinformación.

Debates sobre el establecimiento de reglas que sean apropiadas para Internet en los 21S t siglo están en curso. Esto refleja claramente las características históricas, políticas, económicas y sociales de ciertos países, con naciones autocráticas que introducen formas de legislación que limitan la libertad de expresión y desconocen los derechos humanos.

Es de suma importancia que las democracias construyan grandes alianzas que trabajarán juntas para definir el futuro del espacio digital, que a su vez definirá la calidad de la democracia en las próximas décadas.

Leave a Reply

Your email address will not be published. Required fields are marked *