Los puntajes de belleza, dice, son parte de una dinámica inquietante entre una cultura de la belleza ya poco saludable y los algoritmos de recomendación que encontramos todos los días en línea. Cuando se utilizan puntajes para decidir qué publicaciones aparecen en las plataformas de redes sociales, por ejemplo, refuerza la definición de lo que se considera atractivo y desvía la atención de aquellos que no se ajustan al ideal estricto de la máquina. “Estamos reduciendo los tipos de imágenes que están disponibles para todos”, dice Rhue.
Es un círculo vicioso: con más ojos en el contenido que presenta a personas atractivas, esas imágenes pueden generar un mayor compromiso, por lo que se muestran a más personas. Eventualmente, incluso cuando un puntaje alto de belleza no es una razón directa por la que se le muestra una publicación, es un factor indirecto.
en un estudio publicado en 2019, observó cómo dos algoritmos, uno para los puntajes de belleza y otro para las predicciones de la edad, afectaban las opiniones de las personas. A los participantes se les mostraron imágenes de personas y se les pidió que evaluaran la belleza y la edad de los sujetos. A algunos de los participantes se les mostró la puntuación generada por una IA antes de dar su respuesta, mientras que a otros no se les mostró la puntuación de IA en absoluto. Encontró que los participantes que no conocían la calificación de la IA no mostraban un sesgo adicional; sin embargo, saber cómo la IA clasificó el atractivo de las personas hizo que las personas otorgasen puntuaciones más cercanas al resultado generado algorítmicamente. Rhue llama a esto el “efecto de anclaje”.
“Los algoritmos de recomendación en realidad están cambiando nuestras preferencias”, dice. “Y el desafío desde una perspectiva tecnológica, por supuesto, es no reducirlos demasiado. Cuando se trata de belleza, estamos viendo un estrechamiento mucho mayor de lo que hubiera esperado “.
“No vi ninguna razón para no evaluar tus defectos, porque hay formas de solucionarlos”.
Shafee Hassan, Qoves Studio
En Qoves, Hassan dice que ha tratado de abordar el tema de la raza de frente. Al realizar un informe detallado de análisis facial, el tipo por el que pagan los clientes, su estudio intenta utilizar datos para categorizar el rostro según el origen étnico, de modo que no todo el mundo sea evaluado simplemente en función de un ideal europeo. “Puedes escapar de este prejuicio eurocéntrico simplemente convirtiéndote en la versión más atractiva de ti mismo, la versión más atractiva de tu origen étnico, la versión más atractiva de tu raza”, dice.
Pero Rhue dice que le preocupa que este tipo de categorización étnica se incruste más profundamente en nuestra infraestructura tecnológica. “El problema es que la gente lo está haciendo, no importa cómo lo veamos, y no hay ningún tipo de regulación o supervisión”, dice. “Si hay algún tipo de conflicto, la gente tratará de averiguar quién pertenece a qué categoría”.