Ars Technica
Un efecto secundario de las máquinas ilimitadas de creación de contenido, la IA generativa, es el contenido ilimitado. El lunes, el editor de la reconocida publicación de ciencia ficción Clarkesworld Magazine Anunciado que el tenia temporalmente presentaciones de historias cerradas debido a un aumento masivo de historias generadas por máquinas enviadas a la publicación.
en un gráfico compartido en Twitter, el editor de Clarkesworld, Neil Clarke, contó la cantidad de escritores prohibidos que enviaron historias plagiadas o generadas por máquinas. Los números totalizaron 500 en febrero, frente a poco más de 100 en enero y una línea de base baja de alrededor de 25 en octubre de 2022. El aumento en las presentaciones prohibidas coincide aproximadamente con el lanzamiento de ChatGPT el 30 de noviembre de 2022.
Los modelos de lenguaje extenso (LLM) como ChatGPT se han entrenado en millones de libros y sitios web y pueden crear historias originales rápidamente. Sin embargo, no funcionan de forma autónoma y un ser humano debe guiar su salida con un mensaje que el modelo de IA intenta completar automáticamente.
Desde 2006, Clarkesworld ha publicado a autores de ciencia ficción de renombre y ha ganado varios premios Hugo. Entre las publicaciones de ciencia ficción, es bien conocido por tener un proceso de envío abierto y por lo general paga 12 centavos por palabra. En sus página de envíos
“Las personas que causan el problema son de fuera de la comunidad SF/F”, escribió Clarke en un tuit. “Impulsado en gran medida por expertos en ‘ajetreo’ que afirman que hay dinero fácil con ChatGPT. Están impulsando esto y merecen parte del desdén que se muestra a los desarrolladores de IA”.
En el momento de la publicación, una búsqueda rápida en YouTube de términos como “hacerse rico con ChatGPT” y “ganar dinero escribiendo con ChatGPT” arrojó muchos resultados, aunque no identificamos un video que apunte a Clarkesworld en particular.
Ars Technica
El problema del contenido creado por IA no es exclusivo de Clarkesworld. El martes, Reuters escribió un informe sobre el auge de los libros electrónicos generados por IA en Amazon. Reuters identificó más de 200 libros electrónicos en la tienda Kindle de Amazon que incluyen a ChatGPT como autor o coautor.
La afluencia de contenido generado por IA ha dejado a Clarkesworld en una posición incómoda de tratar de mantener el nivel de envío lo suficientemente alto como para mantener alejados a los spammers, pero no tan alto como para desalentar a los escritores desconocidos o escritores de ciertas regiones del mundo que podrían ser injustamente objeto de prohibiciones geográficas. en un serie de tuitsClarke explicó su situación:
No tenemos una solución para el problema. Tenemos algunas ideas para minimizarlo, pero el problema no va a desaparecer. Los detectores no son fiables. Pay-to-submit sacrifica demasiados autores legítimos. Los envíos impresos no son viables para nosotros. Varias herramientas de terceros para la confirmación de identidad son más caras de lo que las revistas pueden permitirse y tienden a tener lagunas regionales. Adoptarlos sería lo mismo que prohibir países enteros.
Podríamos implementar fácilmente un sistema que solo permitiera a los autores que nos habían enviado trabajos previamente. Eso prohibiría efectivamente a los nuevos autores, lo cual no es aceptable. Son una parte esencial de este ecosistema y de nuestro futuro.
Vale la pena reiterar que hasta ahora, las herramientas que pretenden detectar texto escrito por LLM tienen tasas de precisión bajas (a menudo arrojan falsos positivos cuando se prueban con texto escrito por humanos), por lo que no son actualmente una solución viable. A pesar de estos problemas, Clarke dice que la revista no se cerrará y que las presentaciones se reanudarán en el futuro. Pero por ahora, el camino a seguir no está claro.
“No va a desaparecer por sí solo y no tengo una solución”, escribió Clarke en un entrada en el blog el miércoles pasado. “Estoy jugando con algunos, pero este no es un juego de golpear un topo que cualquiera pueda ‘ganar’. Lo mejor que podemos esperar es rescatar suficiente agua para mantenernos a flote”. Mientras tanto, Clarke anima a aquellos que quieran apoyar la revista a suscribirse.