Este artículo es de The Technocrat, el boletín semanal de políticas tecnológicas de . sobre poder, política y Silicon Valley. Para recibirlo en tu bandeja de entrada todos los viernes,Registrate aquí.
Si usa Google, Instagram, Wikipedia o YouTube, comenzará a notar cambios en las funciones de moderación, transparencia y seguridad del contenido en esos sitios durante los próximos seis meses.
¿Por qué? Se debe a una legislación tecnológica importante que se aprobó en la UE el año pasado pero que no ha recibido suficiente atención (OMI), especialmente en los EE. UU. Me refiero a un par de proyectos de ley llamados Ley de Servicios Digitales (DSA) y Ley de Mercados Digitales (DMA), y esta es su señal, como dicen, para familiarizarse.
Los actos son en realidad bastante revolucionarios, estableciendo unEstándar doradopara la regulación tecnológica cuando se trata de contenido generado por el usuario. La DSA se ocupa de la seguridad digital y la transparencia de las empresas de tecnología, mientras que la DMA aborda las leyes antimonopolio y la competencia en la industria. Dejame explicar.
Hace un par de semanas, la DSA alcanzó un hito importante. Para el 17 de febrero de 2023, todas las principales plataformas tecnológicas de Europa debían autoinformar su tamaño, que se utilizó para agrupar a las empresas en diferentes niveles. Las empresas más grandes, con más de 45 millones de usuarios activos mensuales en la UE (o aproximadamente el 10 % de la población de la UE), se denominan creativamente “Plataformas en línea muy grandes” (o VLOP) o “Motores de búsqueda en línea muy grandes” (o VLOSE) y se sujetará a los más estrictos estándares de transparencia y regulación. Las plataformas en línea más pequeñas tienen muchas menos obligaciones, lo que formaba parte de una política diseñada para fomentar la competencia y la innovación sin dejar de exigir cuentas a las grandes tecnológicas.
“Si preguntas [small companies]por ejemplo, para contratar 30.000 moderadores, matarás a las pequeñas empresas”, me dijo el año pasado Henri Verdier, el embajador francés para asuntos digitales.
Entonces, ¿qué hará realmente la DSA?Hasta el momento, al menos 18 empresas han declarado que califican como VLOP y VLOSE, incluidas la mayoría de los jugadores conocidos como YouTube, TikTok, Instagram, Pinterest, Google y Snapchat. (Si desea una lista completa, el profesor de derecho de la London School of Economics, Martin Husovec, haun gran documento de Googleque muestra dónde se sacuden todos los jugadores principales y ha escrito unexplicador acompañante.)
La DSA requerirá que estas empresas evalúen los riesgos en sus plataformas, como la probabilidad de contenido ilegal o manipulación electoral, y hagan planes para mitigar esos riesgos con auditorías independientes para verificar la seguridad. Las empresas más pequeñas (aquellas con menos de 45 millones de usuarios) también deberán cumplir con los nuevos estándares de moderación de contenido que incluyen la eliminación “rápida” de contenido ilegal una vez marcado, la notificación a los usuarios de dicha eliminación y el aumento de la aplicación de las políticas existentes de la empresa.
Los defensores de la legislación dicen que el proyecto de ley ayudará a poner fin a la era de la autorregulación de las empresas tecnológicas. “No quiero que las empresas decidan qué está y qué no está prohibido sin separación de poderes, sin rendición de cuentas, sin informes, sin posibilidad de impugnación”, dice Verdier. “Es muy peligroso.”
Dicho esto, la facturadeja claro que las plataformasno son responsables del contenido ilegal generado por el usuario, a menos que sean conscientes del contenido y no lo eliminen.
Quizás lo más importante, la DSA requiere que las empresas aumenten significativamente la transparencia, a través de obligaciones de informes para avisos de “términos de servicio” e informes regulares y auditados sobre moderación de contenido. Los reguladores esperanesto tendrá impactos generalizadosen conversaciones públicas sobre los riesgos sociales de las grandes plataformas tecnológicas como el discurso de odio, la desinformación y la violencia.
¿Qué notarás?Podrás participar en las decisiones de moderación de contenido que tomen las empresas e impugnarlas formalmente. La DSA prohibirá de manera efectiva el shadow banning (la práctica de despriorizar el contenido sin previo aviso), frenará la ciberviolencia contra las mujeres y prohibirá la publicidad dirigida a usuarios menores de 18 años. También habrá muchos más datos públicos sobre cómo los algoritmos de recomendación, anuncios, contenido y el trabajo de administración de cuentas en las plataformas, arrojando nueva luz sobre cómo operan las compañías tecnológicas más grandes. Históricamente, las empresas de tecnología han sido muyvacilante en compartir datos de la plataforma con el públicooincluso con investigadores académicos.
¿Que sigue?Ahora, la Comisión Europea (CE) revisará los números de usuarios informados y tiene tiempo para cuestionar o solicitar más información a las empresas tecnológicas. Un problema digno de mención es que los sitios pornográficos se omitieron de la categoría “Muy grande”, que Husovec calificó de “impactante”. Me dijo que cree que la CE debería cuestionar sus números de usuario informados.
Una vez que se confirmen los grupos de tamaño, las empresas más grandes tendrán hasta el 1 de septiembre de 2023 para cumplir con las regulaciones, mientras que las empresas más pequeñas tendrán hasta el 17 de febrero de 2024. Muchos expertos anticipan que las empresas implementarán algunos de los cambios para todos los usuarios. , no solo los que viven en la UE. Dado que la reforma de la Sección 230 parece poco probable en los EE. UU., muchos usuarios estadounidenses se beneficiarán de un Internet más seguro exigido en el extranjero.
Sobre qué más estoy leyendo
Más caos y despidos en Twitter.
- Elon ha tenido una vez más una gran semana de noticias después de que despidió a otras 200 personas, o el 10% del personal restante de Twitter, durante el fin de semana. Se presume que estos empleados formaban parte de la cohorte de “núcleo duro” que había aceptado cumplir con las condiciones de trabajo agresivas de Musk.
- NetBlocks ha informado de cuatro cortes importantesdel sitio desde principios de febrero.
Todo el mundo está tratando de entender el alboroto de la IA generativa.
- La FTC emitió un comunicado advirtiendo a las empresas que no mientan sobre las capacidades de sus IA. También recomiendo leer este útil artículo de mi colega Melissa Heikkilä sobrecómo usar la IA generativa de manera responsabley este explicador sobre10 riesgos legales y comerciales de la IA generativapor Matthew Ferraro de Tech Policy Press.
- Los peligros de la tecnología ya son noticia.Este reportero irrumpió en su cuenta bancariautilizando una voz generada por IA.
Hubo más apagones de internet que nunca en 2022, continuando la tendencia de censura autoritaria.
- Esta semana, Access Now publicó suinforme anual que rastrea los cierresalrededor del mundo. India, de nuevo,lideró la lista con más paradas.
- El año pasado yohabló con Dan Keyserling,que trabajó en el informe de 2021, para obtener más información sobre cómo se arman los cierres. Durante nuestra entrevista, me dijo: “Los apagones de Internet son cada vez más frecuentes. Más gobiernos están experimentando con la restricción del acceso a Internet como una herramienta para afectar el comportamiento de los ciudadanos. Podría decirse que los costos de los apagones de Internet están aumentando porque los gobiernos se están volviendo más sofisticados acerca de cómo abordan esto, pero también porque estamos viviendo más en línea”.
Lo que aprendí esta semana
Los corredores de datos están vendiendo datos de salud mental en línea, segúnanuevo informedel Programa de Política Cibernética de Duke. El investigador pidió información sobre salud mental a 37 corredores de datos y 11 respondieron de buena gana. El informe detalla cómo estos corredores de datos selectos se ofrecieron a vender información sobre depresión, TDAH e insomnio con pocas restricciones. Algunos de los datos estaban vinculados a los nombres y direcciones de las personas.
En una entrevistacon PBSEl líder del proyecto, Justin Sherman, explicó: “Hay una variedad de empresas que no están cubiertas por las estrictas regulaciones de privacidad de la salud que tenemos. Y, por lo tanto, tienen libertad legal para recopilar e incluso compartir y vender este tipo de datos de salud, lo que permite que una variedad de empresas que normalmente no pueden acceder a esto (empresas de publicidad, Big Pharma, incluso compañías de seguros de salud) compren estos datos. y para hacer cosas como publicar anuncios, perfilar a los consumidores, tomar determinaciones potencialmente sobre los precios del plan de salud. Y los corredores de datos permiten a estas empresas eludir las regulaciones sanitarias”.
El 3 de marzo, elLa FTC anunció una prohibiciónevitar que la compañía de salud mental en línea BetterHelp comparta los datos de las personas con otras compañías.