La inteligencia artificial ha aportado un gran impulso a la productividad en el mundo criminal.
La IA generativa proporciona un nuevo y poderoso conjunto de herramientas que permite a los actores maliciosos trabajar de manera mucho más eficiente e internacional que nunca. Durante el año pasado, la mayoría de los ciberdelincuentes dejaron de desarrollar sus propios modelos de IA. En cambio, optan por trucos con herramientas existentes que funcionan de manera confiable.
Esto se debe a que los delincuentes quieren una vida fácil y ganancias rápidas. Para que cualquier tecnología nueva valga los riesgos desconocidos asociados con su adopción (por ejemplo, un mayor riesgo de ser descubierto), tiene que ser mejor y generar mayores recompensas que las que se utilizan actualmente. Melissa Heikkilä, nuestra reportera senior sobre IA, ha reunido cinco formas en las que los delincuentes utilizan la IA en la actualidad.
El último error de OpenAI muestra los desafíos que enfrentan los modelos de IA chinos
Se suponía que el lanzamiento de GPT-4o, un nuevo “omnimodelo” de IA la semana pasada sería un gran momento para OpenAI. Pero apenas unos días después, parece que la empresa está en un gran problema. Desde la renuncia de la mayor parte de su equipo de seguridad hasta la acusación de Scarlett Johansson de haber replicado su voz para la modelo sin su consentimiento, ahora está en modo de control de daños.
Además de eso, los datos que utilizó para entrenar el tokenizador de GPT-4o, una herramienta que ayuda al modelo a analizar y procesar texto de manera más eficiente, están contaminados por sitios web de spam chinos. Como resultado, la biblioteca de tokens chinos del modelo está llena de frases relacionadas con la pornografía y los juegos de azar. Esto podría empeorar algunos problemas que son comunes en los modelos de IA: alucinaciones, bajo rendimiento y mal uso.
Pero OpenAI no es la única empresa que lucha con este problema: existen algunos desafíos importantes asociados con el entrenamiento de grandes modelos lingüísticos para hablar chino. Lea nuestra historia para obtener más información.
—Zeyi Yang
Esta historia es de China Report, nuestro boletín semanal que le brinda información detallada sobre la tecnología en China. Inscribirse para recibirlo en tu bandeja de entrada todos los martes.
Las lecturas obligadas