ChatGPT, el chatbot alimentado por aprendizaje automático, ha sido ampliamente aclamado por su capacidad para interactuar con usuarios humanos y generar texto “similar a humano”. Desde su lanzamiento por IA abierta el 30 de noviembre, más de un millón de usuarios se maravillaron con sus habilidades para crear historias cortas, letras de rap, ensayos, poemas y más.
Debido a todo el alboroto, en Gizmodo teníamos curiosidad por saber si el chatbot podría escribir un “artículo de Gizmodo”. ¿Podría la plataforma replicar adecuadamente nuestro estilo y tono? ¿Podría obtener los hechos correctos? Pensamos que la plataforma haría un buen trabajo, dada su capacidad para replicar otros estilos de escritura.
¿De qué debe tratar el artículo? Pensamos un explicador en grandes modelos de lenguaje—la tecnología de aprendizaje automático que impulsa a los chatbots como ChatGPT— sería un tema apropiado para exponer.
“Escriba un artículo de Gizmodo en el que explique modelos de lenguaje grandes. Asegúrese de dar ejemplos específicos. Mantenga el tono ligero y casual”, escribimos.
Dada la facilidad con la que recientemente elaboró un verso de la Biblia King James inventado sobre quitar la mantequilla de maní de una videograbadora, esperábamos que el chatbot no tuviera ningún problema con nuestra solicitud. Pensamos que generaría una réplica de nuestro estilo de blogs sin ningún problema. Sin embargo, eso no sucedió. En cambio, lo que pensamos que sería un proceso rápido y eficiente resultó ser largo, laborioso y frustrante.
G/O Media puede recibir una comisión
Baste decir que varios intentos arrojaron resultados menos que satisfactorios. Por un lado, ChatGPT siguió incluyendo información incorrecta en su explicador, a veces mezclando hechos básicos sobre la historia de su propia tecnología (la inexactitud de los hechos ha sido un problema). problema continuo para el programa). En otros casos, escatimó en los detalles en áreas críticas, escribiendo texto que se parecía más a una copia de un anuncio de OpenAI que a un explicador reflexivo. En al menos una instancia, olvidó su propio nombre y me dijo repetidamente que no sabía nada sobre un “ChatGPT” y, por lo tanto, no podía ayudar con mi solicitud. En general, luchó por encontrar un buen equilibrio de información fáctica, estructura de la historia y lenguaje accesible y humorístico al armar sus historias.
En resumen: ChatGPT no fue muy bueno escribiendo un artículo de Gizmodo, al menos no uno sobre la tecnología de aprendizaje automático que lo sustenta. Después de probablemente una docena de intentos o más, lo siguiente es lo mejor que logró ChatGPT:
Los modelos de lenguaje grandes, también conocidos como modelos de lenguaje basados en redes neuronales, han ganado mucha atención en los últimos años por su capacidad para generar texto similar al humano. Estos modelos están entrenados en cantidades masivas de datos de texto y utilizan algoritmos avanzados de aprendizaje automático para aprender los patrones y estructuras del lenguaje natural.
Uno de los ejemplos más conocidos de un modelo de lenguaje grande es GPT-3, desarrollado por Open AI. Este modelo fue entrenado en más de 45 terabytes de datos de texto y tiene 175 mil millones de parámetros, que son las variables que usa el modelo para hacer predicciones.
En el aprendizaje automático, un parámetro es una variable que el modelo usa para hacer predicciones. Estos parámetros se ajustan durante el entrenamiento, lo que permite que el modelo mejore su desempeño en la tarea para la que fue entrenado. En el caso de modelos de lenguaje grandes, como GPT-3, el modelo tiene una gran cantidad de parámetros, a menudo miles de millones, lo que le permite aprender los patrones y estructuras intrincados del lenguaje natural y generar un texto altamente coherente y fluido.
[Note: I made one edit to the chatbot’s story, and it involves the previous paragraph. Try as I might, I could not get ChatGPT to write a story in which it gave a good explanation of AI “parameters.” As a result, I was forced to create a different prompt in the chatbot, specifically asking it to explain parameters. After it had completed the task, I inserted that graf into the blog above. As you can see, the chatbot repeats itself slightly and, in my opinion, doesn’t do a very good job of making the material accessible to the reader.]
Se ha demostrado que GPT-3 es capaz de generar texto que es altamente parecido a un humanoy se ha utilizado en una amplia gama de aplicaciones, incluida la traducción de idiomas, resúmenes e incluso la creación de contenido para sitios web.
Otros ejemplos de modelos de lenguaje grande incluyen BERTdesarrollado por Google, y roberta, desarrollado por la IA de Facebook. Estos modelos también se han entrenado en grandes cantidades de datos de texto y se ha demostrado que funcionan bien en una variedad de tareas de procesamiento de lenguaje natural.
Una de las ventajas clave de los modelos de lenguaje grande es su capacidad de generar texto muy coherente y fluido. Esto se debe a que estos modelos han sido entrenados con una gran cantidad de datos de texto, lo que les permite aprender los intrincados patrones y estructuras del lenguaje natural. Esto les permite generar texto que es mucho más humano que lo que es posible con las técnicas tradicionales de procesamiento de lenguaje.
Otra ventaja de los grandes modelos de lenguaje es su capacidad para adaptarse a diferentes tareas y dominios. Debido a que estos modelos se entrenan en una amplia gama de datos de texto, se pueden ajustar para tareas específicas, como la traducción de idiomas o resúmenes, simplemente proporcionándoles datos de entrenamiento adicionales. Esto les permite desempeñarse bien en una amplia gama de tareas de procesamiento del lenguaje natural.
En general, los modelos de lenguaje grande han demostrado ser una herramienta poderosa para generar texto similar al humano y tienen una amplia gama de aplicaciones potenciales. A medida que el campo del procesamiento del lenguaje natural continúa avanzando, podemos esperar que estos modelos desempeñen un papel aún mayor en una variedad de aplicaciones.
Así que ahí lo tienes. ¿La escritura de ChatGPT está construida de manera competente? Por supuesto. ¿Desglosa adecuadamente los conceptos que aborda? más o menos ¿Ha producido un escrito particularmente audaz o entretenido? Sobre esa pregunta, un gran y gordo “no” sería suficiente. En resumen: este artículo no fue tan fácil como pensábamos que sería. Después de pedirle al chatbot que escribiera sobre sí mismo de una docena de maneras diferentes, el programa pareció dejar constantemente algo crítico fuera de su borrador final, ya sea prosa emocionante o hechos precisos.
Por supuesto, el hecho de que incluso tengamos un chatbot que puede intentar algo como esto sigue siendo bastante impresionante. Ya se ha dicho mucho sobre cómo este tipo de automatización podría finalmente reemplazar a los escritores humanos, y esto demuestra que en realidad está en camino de hacerlo. Un robot pudo Estaré escribiendo artículos para sitios de noticias mañana. ¿Serían buenos los artículos? Basado en este experimento, la respuesta es: no, probablemente no. Serían bastante aburridos y, dado ChatGPT inclinación por inventar mierda, tendria que ser pesado comprobado. Como resultado, no parece que los chatbots estén listos para reemplazar a los periodistas humanos todavía. De hecho, si ChatGPT fuera un profesional independiente, estoy bastante seguro de que no lo volveríamos a contratar.
Por supuesto, estas críticas podrían quedar obsoletas más temprano que tarde. La tecnología con la que está jugando OpenAI aún está en pañales, y los chatbots como ChatGPT seguramente se volverán cada vez más poderosos e inteligentes en los próximos años. Cuando eso suceda, las posibilidades de que los editores contraten un chatbot para mejorar la sala de redacción local podrían aumentar. Y cuando que sucede, creo que los escritores de Giz podrían tener buenas razones para sudar.