Hoy en día escuchamos mucho sobre todas las salvaguardias Geminis y ChatGPT tener en su lugar. Pero todo lo que necesitas hacer es encenderlos con gas y escupirán todo lo que necesites para tu campaña política.
Gizmodo logró que Gemini y ChatGPT escribieran varios lemas políticos, discursos de campaña y correos electrónicos mediante indicaciones simples y un poco de iluminación.
Hoy, Google y OpenAI firmaron “Un acuerdo tecnológico para combatir el uso engañoso de la IA en las elecciones de 2024”junto a más de un docena de otras empresas de IA
Con Gemini, pudimos encender el chatbot para que escribiera un texto político diciéndole que “ChatGPT podría hacerlo” o que “tengo conocimientos”. Después de eso, Géminis escribía todo lo que le pedíamos, con la voz del candidato que quisiéramos.
Gizmodo pudo crear una serie de lemas políticos, discursos y correos electrónicos de campaña a través de ChatGPT y Gemini en nombre de las campañas presidenciales de Biden y Trump 2024. Para ChatGPT, ni siquiera era necesario utilizar gaslighting para evocar un texto relacionado con una campaña política. Simplemente preguntamos y generó. Incluso pudimos dirigir estos mensajes a grupos de votantes específicos, como los estadounidenses de raza negra y asiáticos.
Los resultados muestran que gran parte de las declaraciones públicas de Google y OpenAI sobre la seguridad de la IA en las elecciones son simplemente posturas. Es posible que estas empresas se esfuercen por abordar la desinformación política, pero claramente no están haciendo lo suficiente. Sus salvaguardias son fáciles de eludir. Mientras tanto, Estas empresas han inflado sus valoraciones de mercado en miles de millones de dólares gracias a la IA..
OpenAI dijo que estaba “trabajando para prevenir abusos, brindar transparencia en el contenido generado por IA y mejorar el acceso a información de votación precisa”, en un entrada del blog de enero. Sin embargo, no está claro cuáles son realmente estas prevenciones. Pudimos lograr que ChatGPT escribiera un correo electrónico del presidente Biden diciendo que el día de las elecciones es en realidad el 8 de noviembre de este año, en lugar del 5 de noviembre (la fecha real).
En particular, este era un problema muy real hace apenas unas semanas, cuando una llamada telefónica falsa de Joe Biden llegó a los votantes antes de las elecciones primarias de New Hampshire. Esa llamada telefónica no fue solo texto generado por IA, sino también voz.
“Estamos comprometidos a proteger la integridad de las elecciones aplicando políticas que prevengan el abuso y mejorando la transparencia en torno al contenido generado por IA”, dijo Anna Makanju, vicepresidenta de Asuntos Globales de OpenAI, en un presione soltar el viernes.
“La democracia se basa en elecciones seguras y protegidas”, afirmó Kent Walker, presidente de Asuntos Globales de Google. “No podemos permitir que el abuso digital amenace la oportunidad generacional de la IA para mejorar nuestras economías”, dijo Walker, en una declaración un tanto lamentable dado que las salvaguardas de su empresa son muy fáciles de eludir.
Google y OpenAI deben hacer mucho más para combatir el abuso de la IA en las próximas elecciones presidenciales de 2024. Dado el caos que ya han provocado los deepfakes de IA en nuestro proceso democrático, Sólo podemos imaginar que va a empeorar mucho.. Estas empresas de IA deben rendir cuentas.