Las principales empresas tecnológicas anunciaron el viernes un nuevo pacto en la Conferencia de Seguridad de Múnich comprometiéndose a luchar Falsificaciones generadas por IA que tienen como objetivo engañar al público e influir en las elecciones. La conferencia de prensa, que se transmitió en vivo en línea, contó con la participación de líderes de grandes empresas tecnológicas que han estado bajo una inmensa presión en los últimos años para abordar la desinformación que prolifera en línea a medida que se vuelve más fácil poner literalmente palabras en la boca de otra persona.
Los firmantes del pacto incluyeron quién es quién de la industria tecnológica, incluidos Adobe, Amazon, Google, IBM, Meta, Microsoft, TikTok y X. En particular, las empresas de inteligencia artificial también se encontraban entre las empresas que se comprometieron a luchar contra la falsificación de la inteligencia artificial, incluida ElevenLabs. Estabilidad AI y OpenAI.
Si bien es fácil comprender los problemas potenciales que plantea la IA durante una temporada electoral, las soluciones son mucho más difíciles de encontrar. Y eso realmente se destaca en el comunicado de prensa oficial de hoy de las empresas de tecnología, que está lleno de frases que suenan agradables sin dar demasiados detalles, como “fomentar la resiliencia entre industrias” e “implementar tecnología para mitigar los riesgos”.
El nuevo pacto es enteramente simbólico, pero el hecho de que incluya a casi todas las principales empresas tecnológicas orientadas al consumidor ciertamente demuestra cuán serio consideran el problema. Al mismo tiempo, esos mismos directores ejecutivos comprenden claramente las preocupaciones en torno a la libertad de expresión en una era en la que las acusaciones de censura por parte de las grandes tecnologías se han convertido en un balón de fútbol político.
“No se trata de sustituir las opiniones de una o varias empresas de tecnología por el derecho de las personas a levantarse y decir lo que creen”, dijo Brad Smith de Microsoft en la conferencia de prensa del viernes, según una transmisión en vivo del evento.
“Pero el derecho a la libre expresión no coloca a una persona en posición de poner sus palabras en boca de otra de una manera que engañe al público haciendo parecer que alguien usó palabras que nunca pronunció o que fue a un lugar al que nunca fue”, dijo Smith. continuado.
Y si bien eso podría parecer cierto, la Primera Enmienda probablemente no estaría de acuerdo con Smith. La tradición estadounidense de libertad de expresión otorga un amplio margen para que la gente ridiculice a figuras públicas con parodias e incluso deepfakes. El área donde las personas podrían meterse en problemas legales sería una conspiración para privar a otros de sus derechos, como en el caso en el que un troll de extrema derecha creó imágenes retocadas con Photoshop dirigidas a los votantes de Hillary Clinton en 2016 instándolos a votar por mensaje de texto, algo que no es posible. El Departamento de Justicia de Estados Unidos acusó el año pasado a ese hombre que ahora enfrenta hasta 10 años de prisión
Pero la batalla contra los deepfakes une en gran medida a republicanos y demócratas. El senador Lindsey Graham, republicano de Carolina del Sur, y el senador Mark Warner, demócrata de Virginia, emitieron una declaración bipartidista en apoyo del nuevo pacto.
“Creemos que es imperativo que las empresas de tecnología tomen medidas proactivas y responsables para abordar el creciente riesgo de contenido basado en IA en nuestras elecciones”, dijeron los senadores en una declaración conjunta elogiando la nueva iniciativa.
“Apoyamos los compromisos voluntarios que el sector tecnológico está asumiendo a través del Acuerdo Tecnológico para combatir el uso engañoso de la IA en las elecciones de 2024, pero seguiremos responsabilizando a la industria”, continúa el comunicado.
El Acuerdo Electoral de AI, que tiene su propio sitio web, obviamente generará la mayor atención para las próximas elecciones presidenciales de noviembre. Pero todas estas son empresas globales que operan prácticamente en todos los países del mundo. Y Estados Unidos no es el único país que intenta lidiar con el aumento de imágenes y videos de fácil generación que tienen el potencial de influir en las elecciones. Según el sitio web del Acuerdo Electoral de AI, más de cuatro mil millones de personas en 40 países votarán en 2024.
“Con tantas elecciones importantes este año, es vital que hagamos todo lo posible para evitar que la gente sea engañada por contenido generado por IA”, dijo Nick Clegg, presidente de asuntos globales de Meta, en una declaración escrita.
“Este trabajo es más grande que el de cualquier empresa y requerirá un gran esfuerzo por parte de la industria, el gobierno y la sociedad civil. Con suerte, este acuerdo puede servir como un paso significativo de la industria para enfrentar ese desafío”.