La ciencia ficción se vuelve real a medida que la revista de renombre cierra las presentaciones debido a los escritores de IA

Una imagen generada por IA de un robot escribiendo ansiosamente una presentación para Clarkesworld.
Agrandar / Una imagen generada por IA de un robot escribiendo ansiosamente una presentación para Clarkesworld.

Ars Technica

Un efecto secundario de las máquinas ilimitadas de creación de contenido, la IA generativa, es el contenido ilimitado. El lunes, el editor de la reconocida publicación de ciencia ficción Clarkesworld Magazine Anunciado que el tenia temporalmente presentaciones de historias cerradas debido a un aumento masivo de historias generadas por máquinas enviadas a la publicación.

en un gráfico compartido en Twitter, el editor de Clarkesworld, Neil Clarke, contó la cantidad de escritores prohibidos que enviaron historias plagiadas o generadas por máquinas. Los números totalizaron 500 en febrero, frente a poco más de 100 en enero y una línea de base baja de alrededor de 25 en octubre de 2022. El aumento en las presentaciones prohibidas coincide aproximadamente con el lanzamiento de ChatGPT el 30 de noviembre de 2022.

Un gráfico proporcionado por Neil Clarke de la revista Clarkesworld: "Esta es la cantidad de personas que hemos tenido que prohibir por mes.  Antes de fines de 2022, eso era principalmente plagio.  Ahora son envíos generados por máquinas."
Agrandar / Un gráfico proporcionado por Neil Clarke de la revista Clarkesworld: “Esta es la cantidad de personas que tuvimos que prohibir por mes. Antes de fines de 2022, eso era principalmente plagio. Ahora son envíos generados por máquinas”.

Los modelos de lenguaje extenso (LLM) como ChatGPT se han entrenado en millones de libros y sitios web y pueden crear historias originales rápidamente. Sin embargo, no funcionan de forma autónoma y un ser humano debe guiar su salida con un mensaje que el modelo de IA intenta completar automáticamente.

Desde 2006, Clarkesworld ha publicado a autores de ciencia ficción de renombre y ha ganado varios premios Hugo. Entre las publicaciones de ciencia ficción, es bien conocido por tener un proceso de envío abierto y por lo general paga 12 centavos por palabra. En sus página de envíos

, la publicación afirma: “No estamos considerando historias escritas, coescritas o asistidas por AI en este momento”. Sin embargo, eso no ha impedido que el número de envíos aumente drásticamente, y Clarke lo atribuye principalmente a esquemas para hacerse rico rápidamente.

“Las personas que causan el problema son de fuera de la comunidad SF/F”, escribió Clarke en un tuit. “Impulsado en gran medida por expertos en ‘ajetreo’ que afirman que hay dinero fácil con ChatGPT. Están impulsando esto y merecen parte del desdén que se muestra a los desarrolladores de IA”.

En el momento de la publicación, una búsqueda rápida en YouTube de términos como “hacerse rico con ChatGPT” y “ganar dinero escribiendo con ChatGPT” arrojó muchos resultados, aunque no identificamos un video que apunte a Clarkesworld en particular.

Una búsqueda rápida en YouTube muestra muchos resultados que promueven ganar dinero  usando ChatGPT para escribir.
Agrandar / Una búsqueda rápida en YouTube muestra muchos resultados que promueven ganar dinero usando ChatGPT para escribir.

Ars Technica

El problema del contenido creado por IA no es exclusivo de Clarkesworld. El martes, Reuters escribió un informe sobre el auge de los libros electrónicos generados por IA en Amazon. Reuters identificó más de 200 libros electrónicos en la tienda Kindle de Amazon que incluyen a ChatGPT como autor o coautor.

La afluencia de contenido generado por IA ha dejado a Clarkesworld en una posición incómoda de tratar de mantener el nivel de envío lo suficientemente alto como para mantener alejados a los spammers, pero no tan alto como para desalentar a los escritores desconocidos o escritores de ciertas regiones del mundo que podrían ser injustamente objeto de prohibiciones geográficas. en un serie de tuitsClarke explicó su situación:

No tenemos una solución para el problema. Tenemos algunas ideas para minimizarlo, pero el problema no va a desaparecer. Los detectores no son fiables. Pay-to-submit sacrifica demasiados autores legítimos. Los envíos impresos no son viables para nosotros. Varias herramientas de terceros para la confirmación de identidad son más caras de lo que las revistas pueden permitirse y tienden a tener lagunas regionales. Adoptarlos sería lo mismo que prohibir países enteros.

Podríamos implementar fácilmente un sistema que solo permitiera a los autores que nos habían enviado trabajos previamente. Eso prohibiría efectivamente a los nuevos autores, lo cual no es aceptable. Son una parte esencial de este ecosistema y de nuestro futuro.

Vale la pena reiterar que hasta ahora, las herramientas que pretenden detectar texto escrito por LLM tienen tasas de precisión bajas (a menudo arrojan falsos positivos cuando se prueban con texto escrito por humanos), por lo que no son actualmente una solución viable. A pesar de estos problemas, Clarke dice que la revista no se cerrará y que las presentaciones se reanudarán en el futuro. Pero por ahora, el camino a seguir no está claro.

“No va a desaparecer por sí solo y no tengo una solución”, escribió Clarke en un entrada en el blog el miércoles pasado. “Estoy jugando con algunos, pero este no es un juego de golpear un topo que cualquiera pueda ‘ganar’. Lo mejor que podemos esperar es rescatar suficiente agua para mantenernos a flote”. Mientras tanto, Clarke anima a aquellos que quieran apoyar la revista a suscribirse.