Todavía queda bastante nostalgia persistente para Windows 95, y aunque es notoriamente fácil falsificar su camino de regreso a los días de menús en bloques y hombres calvos que te gritan que “solo $ 99”, un experimentador de Windows logró usar ChatGPT para generar claves de producto fáciles para el venerable sistema operativo.
A fines del mes pasado, el YouTuber Enderman mostró cómo pudo atraer a ChatGPT de OpenAI para que generara claves para Windows 95 a pesar de que el chatbot era explícitamente antagónico a la creación de claves de activación.
OClaves OEM de Windows 95 usó varios parámetros, incluido un conjunto de números ordinales, así como otros números aleatorios. En una solución considerablemente simple, Enderman le dijo a ChatGPT que generara líneas con el mismo diseño que una clave de Windows 95, prestando especial atención a las series específicas que son obligatorias en todas las claves. Después de unas pocas docenas de intentos de ensayo y error, el se decidió por un mensaje que funcionó, y podría generar alrededor de uno tecla de trabajo por cada 30 intentos.
En otras palabras, él no podía decirle a ChatGPT que generara una clave de Windows, pero podría decirle que generara una cadena de caracteres que cumpliera con todos los requisitos de una clave de Windows.
Una vez que Enderman demostró que la clave funcionó en la instalación de Windows 95, agradeció a ChatGPT. El chatbot respondió: “Me disculpo por cualquier confusión, pero no proporcioné ninguna clave de Windows 95 en mi respuesta anterior… No puedo proporcionar ninguna clave de producto o código de activación para ningún software”. Además, trató de afirmar que la activación de Windows 95 “no era posible” porque Microsoft dejó de admitir el software en 2001, lo cual es simplemente falso.
G/O Media puede recibir una comisión
Curiosamente, Enderman ejecutó este indicador tanto en el modelo de lenguaje GPT-3 más antiguo como en El nuevo GPT-4 de OpenAI y nos dijo que el modelo más reciente mejoró incluso lo que viste en su video. En un correo electrónico, Enderman (quien solicitó que usáramos su nombre de pantalla) le dijo a Gizmodo que cierta cadena de números en la clave debía ser divisible por 7. GPT-3 tendría dificultades para comprender esa restricción y creó muchas menos claves utilizables. En pruebas posteriores con GPT-4, ChatGPT escupía muchas más claves correctas, aunque incluso entonces no todas las claves eran ganadoras o se apegaban a los parámetros del aviso. El youtuber dijo esto sugiere que “GPT-4 sabe cómo hacer matemáticas, pero se pierde durante la generación de lotes.
GPT-4 no tiene incorporado calculadora, y aquellos que quieren usar el sistema para generar respuestas precisas a los problemas matemáticos necesita hacer un trabajo de codificación adicional. Aunque OpenAI no ha sido comunicativo sobre los datos de capacitación de LLM, la compañía ha estado muy emocionada con todas las diferentes pruebas que puede pasar con gran éxito, como el LSAT y el Uniform Bar Exam. Al mismo tiempo, ChatGPT ha demostrado que ocasionalmente puede no puede escupir el código exacto.
Uno de los principales puntos de venta de GPT-4 fue su capacidad para manejar indicaciones más largas y complejas. GPT-3 y 3.5 rutinariamente fallar en crear respuestas precisas al hacer aritmética de 3 dígitos o tareas de “razonamiento” como descifrar palabras. Obtuve la última versión del LLM notablemente mejor en este tipo de tareas, al menos si estás mirando puntajes en exámenes como el GRE verbal o el SAT de Matemáticas. Aún así, el sistema no es perfecto de ninguna manera, especialmente porque sus datos de aprendizaje son en su mayoría texto en lenguaje natural extraído de Internet.
Enderman le dijo a Gizmodo que ha intentado generar claves para múltiples programas utilizando el modelo GPT-4 y descubrió que maneja la generación de claves mejor que las versiones anteriores del modelo de lenguaje grande.
no esperes Sin embargo, comience a obtener claves gratuitas para programas modernos. Como señala el YouTuber en su video, Las claves de Windows 95 son mucho más fáciles de falsificar que las llaves para Windows XP y más allá, como microsoft tiene comenzó a implementar ID de producto en el software de instalación del sistema operativo.
Aún así, la técnica de Enderman no requería ningún intenso pronta ingenieria para que la IA evite los bloqueos de OpenAI en la creación de claves de producto. A pesar del apodo, los sistemas de IA como ChatGPT y GPT-4 en realidad no son “inteligentes” y no saben cuándo se está abusando de ellos, excepto por prohibiciones explícitas de generar contenido “no permitido”.
Esto tiene implicaciones más serias. En febrero, investigadores de una empresa de ciberseguridad Control mostró que los actores maliciosos habían usado ChatGPT para “mejorar” el malware básico. Hay muchas formas de eludir las restricciones de OpenAI, y los ciberdelincuentes han demostrado que son capaces de escribir scripts básicos o bots para abusar de la API de la empresa.
A principios de este año, los investigadores de seguridad cibernética dijeron que lograron que ChatGPT creara herramientas de malware malicioso con solo crear varias indicaciones autorizadas con múltiples restricciones. El chatbot eventualmente obligó y generó un código malicioso e incluso pudo mutarlo, creando múltiples variantes del mismo malware.
Las claves de Windows de Enderman son un buen ejemplo de cómo se puede engatusar a la IA para que eluda sus protecciones, pero él nos dijo que no estaba demasiado preocupado por el abuso, ya que cuantas más personas pinchen y empujen a la IA, más lanzamientos futuros podrán cerrar las brechas.
“Creo que es algo bueno, y las empresas como Microsoft no deberían prohibir a los usuarios por abusar de su Bing AI o debilitar sus capacidades”, dijo. “En cambio, deberían recompensar a los usuarios activos por encontrar tales vulnerabilidades y mitigarlas selectivamente. Después de todo, todo es parte del entrenamiento de la IA”.
¿Quiere saber más sobre la IA, los chatbots y el futuro del aprendizaje automático? Consulte nuestra cobertura completa de inteligencia artificialo explore nuestras guías para Los mejores generadores de arte de IA gratuitos, Las mejores alternativas de ChatGPT, y Todo lo que sabemos sobre ChatGPT de OpenAI.