Por qué los algoritmos de TikTok marcaron ‘Black Lives Matter’

Imagen del artículo titulado TikTok bloqueó a los creadores de usar & # 39; Black Lives Matter & # 39;  En sus biografías

Foto: Venganza Loica (imágenes falsas)

TikTok, una empresa que no es ajena contenido moderación preocupaciones, activó algunas de las principales señales de alerta esta semana cuando bloqueó erróneamente a los creadores populares para que no incluyeran frases como “Black Lives Matter” en sus biografías. En ese momento, TikTok afirmó que las frases eran “contenido inapropiado”, un problema que la compañía promete tener. reparado.

El comediante Ziggi Tyler notó el problema por primera vez cuando intentó actualizar su página de biografía en el Creator Marketplace de TikTok, una función beta que la plataforma debutó. el año pasado para conectar a creadores populares con patrocinadores de marca. Tyler ha publicado varios clips en su cuenta, que muestra que cada vez que intentaba modificar su biografía para incluir frases como “Black Lives Matter”, “Pro-Black” o “Black Success”, TikTok mostraba un mensaje de que su biografía tenía “contenido inapropiado” y no podía No se actualizará.

Más adelante en el mismo video, Tyler reemplazó la palabra “negro” por “blanco” en cada una de esas frases, lo que muestra cómo TikTok no marcó su biografía cuando incluía términos como “apoyar la supremacía blanca” o “pro-blancos”.

“La gente blanca puede entrar aquí y llamarme la palabra n y hacer videos sobre el extremismo violento, pero no puedo hacer nada”, dijo Tyler. “No podemos hacer nada. Estaban cansados.”

Tyler le dijo a Forbes en una entrevista reciente que, como creador negro, esperaba resaltar su origen racial en Creator Marketplace específicamente, con la esperanza de que los anunciantes que buscan enfocarse en la justicia racial en sus campañas, o incluso diversificar sus anuncios en general, usen su talentos. Eso es una lucha cuando ni siquiera puedes incluir la frase “Black Lives Matter” en tu biografía, dijo.

TikTok no negó el problema y le dijo a Gizmodo que podría ser marcado con tiza hasta algunos problemas que la compañía está resolviendo en el mercado aún en desarrollo. Aunque TikTok prometió que es Dado que se corrigieron los problemas de inteligencia artificial que causaron que se marcaran estas frases, también se suspendió temporalmente que evita que los creadores cambien su BIOS.

“Nuestras protecciones de TikTok Creator Marketplace, que marcan frases típicamente asociadas con el discurso de odio, se establecieron erróneamente para marcar frases sin respetar el orden de las palabras”, dijo un portavoz de TikTok a Gizmodo. “Reconocemos y nos disculpamos por lo frustrante que fue la experiencia, y nuestro equipo ha solucionado este importante error. Para ser claros, Black Lives Matter no viola nuestras políticas “.

Según TikTok, sus algoritmos marcaron la biografía de Tyler porque también había incluido la palabra “audiencia” junto con frases como “La gente negra importa”. Específicamente, TikTok explicó que a sus herramientas de inteligencia artificial se les enseñó a marcar las biografías que incluían la palabra “morir”, que está … en el medio de la palabra “aulance. ” Destacando contra la frase antes mencionada, el algo interpretó las palabras en la biografía de Tyler como “morir” y “gente negra”.

TikTok también señaló que su algoritmo habría llamado la atención sobre alguna combinación de las palabras “morir” y “negro”: “ingrelants para negropasteles de bayas, por ejemplo, o “la peor plaga de mílaval-era fue causada por diminuto negro pulgas. ” Ambos, si estuvieran incluidos en la biografía de Creator Marketplace de alguna persona, habrían sido marcados por contenido inapropiado por la IA fallida de TikTok.

Es poco probable que los creadores de color se apresuren a perdonar la plataforma, que tiene una relación polémica con los creadores de Black que la usan. Algunas de estas cifras pasaron a “huelga indefinida, ”Desde la coreografía de bailes hasta canciones populares después de que los usuarios blancos fueron acusados ​​de apropiarse de movimientos de la comunidad negra, y a veces de ganar fama viral como resultado, sin ofrecer crédito. Durante las protestas de Black Lives Matter que se intensificaron el año pasado, múltiples creadores negros presunto que TikTok estaba suprimiendo el contenido sobre la muerte de George Floyd, que la compañía más tarde culpados en una “falla técnica”. Mmm. Seguro que suena familiar.

.

Leave a Reply

Your email address will not be published. Required fields are marked *