Un organismo asesor del gobierno del Reino Unido sobre IA y ética de los datos ha recomendado controles más estrictos sobre cómo los gigantes de la plataforma pueden usar la orientación de anuncios y la personalización de contenido.
Las inquietudes sobre las tácticas de focalización en gran medida no reguladas de las plataformas en línea, ya sea mediante la publicación de "contenido personalizado" o "anuncios microtargetados" a individuos o grupos de usuarios, incluyen el riesgo de generar comportamientos adictivos; la explotación y / o discriminación de grupos vulnerables; la amplificación de la desinformación; e interferencia electoral, por nombrar algunos.
en un reporte publicado hoy, el Centro para la Ética e Innovación de Datos (CDEI) establece una serie de recomendaciones para plataformas que usan herramientas de orientación para determinar qué contenido o anuncios se muestran a los usuarios, lo que, según argumenta, ayudará a generar confianza pública en los servicios digitales, incluidos los que ofrecen El sector público.
“La mayoría de la gente no quiere que se detenga la focalización. Pero sí quieren saber que se está haciendo de manera segura y ética. Y quieren más control ”, escribe el presidente Roger Taylor en un resumen ejecutivo.
"Nuestro análisis del entorno regulatorio demuestra brechas significativas en su supervisión reguladora", continúa el informe. “Nuestro análisis de las actitudes públicas muestra una gran preocupación e interés sobre el uso de la orientación en línea en grandes plataformas.
"Nuestra investigación demuestra que los sistemas de orientación en línea utilizados por las plataformas de redes sociales (como Facebook y Twitter), las plataformas para compartir videos (como YouTube, Snapchat y TikTok) y los motores de búsqueda (como Google y Bing) plantean las mayores preocupaciones en estas áreas. "
El organismo asesor, que fue anunciado por el gobierno dirigido por los conservadores en 2017 para ayudar a diseñar políticas para regular el uso de la inteligencia artificial y las tecnologías basadas en datos, está pidiendo que los gigantes de la focalización en línea cumplan con estándares más altos de responsabilidad sobre su uso de la focalización. herramientas.
Las regulaciones actuales son inadecuadas para cubrir la focalización en línea, según su análisis, mientras que dobla la autorregulación y el status quo como "insostenible".
Los encuestados que realizó el CDEI estaban abrumadoramente a favor (61%) de dar a un regulador independiente la supervisión del uso de los sistemas de focalización en línea, frente a solo el 17% que prefería la autorregulación para continuar.
El gobierno del Reino Unido estableció un plan para regular una serie de daños en línea en un Libro Blanco publicado el año pasado – que propone que se coloque un deber de cuidado en las plataformas para proteger a los usuarios de una variedad de daños, como contenido inapropiado para la edad o material que fomente comportamientos perjudiciales como autolesiones o trastornos alimentarios.
TEl CDEI sugiere que este marco propuesto podría ayudar a cubrir algunas de las lagunas regulatorias que su informe está marcando: "si la focalización en línea se reconoce dentro del mandato del regulador independiente ”(al tiempo que se advierte que eso dejaría una serie de lagunas en la regulación de la publicidad política y la publicidad).
El informe también pide una mayor transparencia en la forma en que operan los sistemas de focalización en línea, "para que la sociedad pueda comprender mejor los impactos de estos sistemas y las respuestas políticas se puedan construir sobre evidencia sólida".
Otra recomendación clave es que los usuarios de Internet reciban un mayor control sobre la forma en que están dirigidos para que la personalización se ajuste mejor a sus preferencias.
“La focalización en línea ha ayudado a colocar a un puñado de negocios de plataformas globales en línea en posiciones de enorme poder para predecir e influir en el comportamiento. Sin embargo, los mecanismos actuales para responsabilizarlos son inadecuados ”, escribe el CDEI. "Hemos revisado los poderes de los reguladores existentes y concluimos que no se puede confiar en la aplicación de la legislación y la autorregulación existentes para cumplir con las expectativas públicas de una mayor responsabilidad".
“La industria y el público reconocen que existen límites para la autorregulación y el statu quo es insostenible. Ahora es el momento de una acción reguladora que tome medidas proporcionales para aumentar la responsabilidad, la transparencia y el empoderamiento del usuario ”, agrega.
El CDEI no propone restricciones específicas en sí, sino que aboga por un régimen regulatorio que "promueva la responsabilidad y la transparencia y salvaguarde los derechos humanos por diseño".
También recomienda que se aplique un código de práctica a las plataformas y servicios que utilizan sistemas de focalización en línea que requieren que adopten "estándares de gestión de riesgos, transparencia y protección de las personas que pueden ser vulnerables, para que puedan rendir cuentas por el impacto". de sistemas de orientación en línea para los usuarios ".
El futuro regulador de daños en línea debería tener el deber legal de proteger y respetar la libertad de expresión y privacidad, también sugiere escribir: “La regulación de la focalización en línea debe desarrollarse para salvaguardar la libertad de expresión y privacidad en línea y promover los derechos humanos- basadas en normas internacionales ".
El regulador también necesitará poderes de recopilación de información para evaluar el cumplimiento del código, de acuerdo con las recomendaciones, incluido el poder de exigir que expertos independientes tengan acceso seguro a los datos de las plataformas para permitir una mayor prueba de cumplimiento de su código.
"Los sistemas de orientación en línea pueden tener un efecto negativo en la salud mental, por ejemplo, como un posible factor en la" adicción a Internet ". Podrían contribuir a los problemas sociales, incluida la radicalización y la polarización de las opiniones políticas. Estos son temas de gran interés público, donde los riesgos de daño son poco conocidos, pero el impacto potencial es demasiado grande como para ignorarlo ”, advierte el informe.
“Recomendamos que el regulador facilite la investigación académica independiente sobre temas de interés público significativo, y que tenga el poder de requerir plataformas en línea para dar a los investigadores independientes un acceso seguro a sus datos. Sin esto, el regulador y otros formuladores de políticas no podrán desarrollar políticas basadas en evidencia e identificar las mejores prácticas ".
Otra recomendación es que se requiera que las plataformas mantengan archivos de publicidad en línea "para proporcionar transparencia para los tipos de publicidad personalizada que plantean riesgos sociales particulares", como los anuncios de política; empleo y otras oportunidades similares donde puede haber riesgo de discriminación ilegal; y para productos con restricción de edad.
Un archivo de anuncios es una de las medidas de autorregulación que las plataformas de anuncios, incluido Facebook, han desarrollado e implementado en los últimos años a medida que el escrutinio de sus sistemas se ha incrementado a raíz del escándalo de orientación publicitaria política de Cambridge Analytica que se llevó a cabo utilizando las herramientas publicitarias de Facebook. y datos de usuario.
Aunque tales archivos todavía tienden a ofrecer solo visibilidad limitada para los usuarios, mientras que Facebook ha sido muy criticado por los investigadores por no proporcionar herramientas adecuadas para apoyar el estudio académico de su plataforma.
Con respecto al "control más significativo" para los usuarios sobre cómo son dirigidos, el Centro sugiere soporte para un nuevo mercado en "intermediarios de datos" de terceros, para permitir que los intereses de los usuarios estén representados en múltiples servicios y nuevas aplicaciones de seguridad de terceros.
También está pidiendo mecanismos formales de coordinación entre el futuro regulador de daños en línea y el organismo de control de datos del Reino Unido (ICO) y la Autoridad de Competencia y Mercados (CMA), con el informe señalando otro trabajo relacionado llevado a cabo por el ICO y CMA, incluido el Código de diseño apropiado para la edad de ICO; y el Estudio de mercado de CMA sobre plataformas en línea y publicidad digital.
El último El año pasado expresó su preocupación por el poder de mercado de los gigantes tecnológicos, ya que el regulador planteó una serie de posibles intervenciones en su informe provisional, incluida la solicitud de opiniones sobre la ruptura de gigantes de la plataforma.