Por ejemplo, Melanie Dawes, directora ejecutiva de Ofcom, que regula las redes sociales en el Reino Unido, ha dicho que las plataformas de redes sociales tendrán que explicar cómo funciona su código. Y la Ley de Servicios Digitales de la Unión Europea recientemente aprobada, acordado el 23 de abril, también obligará a las plataformas a ofrecer transparencia sobre los algoritmos. En los EE. UU., los senadores demócratas presentaron propuestas para una Ley de Responsabilidad Algorítmica en febrero de 2022. Su objetivo es brindar una nueva transparencia y supervisión de los algoritmos que rigen nuestras líneas de tiempo y noticias, y mucho más.
Permitir que el algoritmo de Twitter sea visible para otros y adaptable por los competidores, teóricamente significa que alguien podría simplemente copiar el código fuente de Twitter y lanzar su propia versión renombrada. Gran parte de Internet se ejecuta en software de código abierto:más famoso OpenSSL
Incluso ya hay ejemplos de redes sociales de código abierto. Mastodon, una plataforma de microblogging que se creó después de las preocupaciones sobre la posición dominante de Twitter,
Pero ver el código detrás de un algoritmo no necesariamente le dice cómo funciona, y ciertamente no le da a la persona promedio mucha información sobre las estructuras comerciales y los procesos que intervienen en su creación.
“Es un poco como tratar de comprender a las criaturas antiguas solo con material genético”, dice Jonathan Gray, profesor titular de estudios de infraestructura crítica en el King’s College de Londres. “Nos dice más que nada, pero sería una exageración decir que sabemos cómo viven”.
Tampoco hay un solo algoritmo que controle Twitter. “Algunos de ellos determinarán lo que la gente ve en sus líneas de tiempo en términos de tendencias, contenido o seguimiento sugerido”, dice Catherine Flick, investigadora de informática y responsabilidad social en la Universidad De Montfort, Leicester. Los algoritmos en los que la gente estará principalmente interesada son los que controlan qué contenido aparece en las líneas de tiempo de los usuarios, pero incluso eso no será muy útil sin los datos de entrenamiento.
“La mayoría de las veces, cuando las personas hablan sobre la responsabilidad algorítmica en estos días, reconocemos que los algoritmos en sí mismos no son necesariamente lo que queremos ver; lo que realmente queremos es información sobre cómo se desarrollaron”, dice Jennifer Cobbe, investigadora asociada postdoctoral. en la Universidad de Cambridge. Eso se debe en gran parte a las preocupaciones sobre los algoritmos de IA. perpetuar los prejuicios humanos en los datos utilizados para entrenarlos. Quién desarrolla algoritmos y qué datos utilizan pueden marcar una diferencia significativa en los resultados que arrojan.
Para Cobbe, los riesgos superan los beneficios potenciales. El código de la computadora no nos da ninguna idea de cómo se entrenaron o probaron los algoritmos, qué factores o consideraciones entraron en ellos, o qué tipo de cosas se priorizaron en el proceso.
Entonces, es posible que el código abierto de su algoritmo no marque una diferencia significativa en la transparencia en Twitter, y podría presentar algunos riesgos de seguridad significativos.
Las empresas a menudo publican sus evaluaciones de impacto de la protección de datos, que sondean y prueban los sistemas para resaltar las debilidades y fallas. Cuando se descubren, se reparan, pero los datos a menudo se redactan para evitar riesgos de seguridad. Al abrir los algoritmos de Twitter, todo el código base del sitio web sería accesible para todos, lo que podría permitir que los malos actores estudiaran el software y encontraran vulnerabilidades para explotar.
“No creo ni por un momento que Elon Musk esté pensando en abrir toda la parte de infraestructura y seguridad de Twitter”, dice Eerke Boiten, profesor de ciberseguridad en la Universidad De Montfort, Leicester.