Elemento de aplicación de chat federado suspendido de Google por presuntamente alojar contenido abusivo

Google retiró temporalmente la aplicación de chat de Android de Element de Play Store esta semana por presuntamente alojar contenido abusivo. La decisión es particularmente desconcertante dado que Element es solo un cliente para el protocolo de chat federado Matrix y no un servicio en sí mismo. Lo que significa que Element puede (y lo hace) moderar sus propios servidores, pero no tiene control sobre lo que sucede en la red a la que se conectan los usuarios.

“[J]”Como Google no controla el contenido en la Web, Element no controla el contenido en Matrix”, escribió el CEO de Element, Matthew Hodgson, en una publicación de blog

publicado el sábado.

Google arrancó Element desde su tienda de aplicaciones el viernes sin previo aviso o notificación y restauró la aplicación sábado tarde noche

, Dijo Element. En un sábado por la mañana Pío, la compañía dijo que se acercó a Google y confirmó que la suspensión “se debe a contenido abusivo en algún lugar de Matrix”. Los desarrolladores de Element enviaron una “apelación detallada” a Google para intentar anular la suspensión, y parece haber marcado la diferencia.

En una actualización del blog, Hodgson dijo que un ejecutivo de Google se acercó y se disculpó por la “mala comunicación” de parte de Google. Aparentemente, la suspensión estaba relacionada con “algún contenido extremadamente abusivo” en el servidor doméstico predeterminado de matrix.org, que Element ejecuta en nombre de Matrix, que ya había sido identificado y tratado rápidamente por los moderadores de Element.

“Explicamos cómo funcionan Element y Matrix, establecimos un canal de comunicación sobre cualquier inquietud futura sobre moderación y esperamos que la aplicación se restaure en breve”, escribió Hodgson en ese momento.

Horas más tarde, actualizó el blog para anunciar que la aplicación estaba funcionando nuevamente y agradeció a los usuarios por su paciencia.

“Gracias también a Google por ser transparente y pedir disculpas y la rápida resolución una vez que establecimos el contacto”, dijo.

Pero a pesar de que la aplicación ahora está de vuelta en la Play Store de Google, su abrupta desaparición indudablemente provocó algunos dolores de cabeza para muchas empresas, universidades y gobiernos, incluidos el Reino Unido, Estados Unidos, Francia y Alemania, que utilizan Element y la red Matrix. . Google ha suspendido previamente a un cliente de terceros por contenido fuera de su control, como Policía de Android notas. En Febrero de 2020, Google prohibió el popular cliente de código abierto de Reddit Slide durante casi dos semanas porque una captura de pantalla en la lista de la tienda de la aplicación contenía el texto “ISIS” como se muestra en una publicación de Reddit relacionada con las noticias.

Google no respondió de inmediato a la solicitud de comentarios de Gizmodo. El incidente con Element viene después de que Google y Apple tomaran medidas enérgicas contra Hablarla aplicación a raíz del ataque al edificio del Capitolio el 6 de enero por presuntamente albergar contenido violento.

Con este En mente, tiene sentido que Google pueda tener problemas con la moderación de contenido y se esté volviendo un poco feliz en estos días. Y aunque este enfoque puede estar justificado en algunos casos, recordemos que no todas las aplicaciones son malas y que algunas realmente están haciendo todo lo posible para combatir el contenido violento y de odio.