el premiado Revista Clarkesworld ha ayudado a impulsar las carreras de escritores de ciencia ficción durante casi 20 años, presentando regularmente el trabajo de los nominados y ganadores del Premio Hugo como Elizabeth Bear, Peter Watts y Catherynne M. Valente. Pero en este momento, en una situación bastante irónica, se encuentra luchando contra la ciencia ficción más moderna de las tendencias: la IA.
De acuerdo a a un artículo reciente por el editor de Clarkesworld, Neil Clarke, más de un tercio de las presentaciones que han llegado a la revista este año han sido escritas por inteligencia artificial y luego enviadas por humanos tramposos. Y está empeorando, rápido. En la primera quincena de febrero, apareció más del doble de entradas escritas por IA que en todo enero, y Clarke dice mi ciudad había 50 solos hoy.
Desde que se escribió el artículo, Clarke tuiteó que a partir de ahora, las presentaciones están completamente cerradas. “No debería ser difícil adivinar por qué”, agrega.
La decisión de cerrar las presentaciones se tomó “en el impulso del momento”, dijo Clarke. mi ciudad por correo electrónico, ya que los números llegaron esta mañana. “Podría jugar al whack-a-mole todo el día o cerrar envíos y trabajar con los envíos legítimos”.
La velocidad del ascenso de esta situación es bastante llamativa. Clarke afirma en su publicación de blog que durante mucho tiempo tuvo que lidiar con el plagio, pero no fue hasta finales de 2022 que el problema se volvió tan endémico. Y luego, en el primer mes y medio de 2023, se intensificó a tal escala que la revista suspendió las entradas por completo.
¿Cómo puede Clarkesworld contar una historia generada por IA?
Clarke no explica en su blog cómo es capaz de saber qué entradas están escritas por IA, por la razón muy sensata de que no quiere armar a los tramposos con información que podría ayudarlos a eludir su detección. Sin embargo, le explicó a mi ciudad que actualmente no son demasiado difíciles de detectar.
“Los ‘autores’ que hemos prohibido”, nos dijo Clarke, “obviamente han estado enviando texto generado por máquina. Esas obras son fórmulas y de mala calidad”. Sin embargo, también sospecha que ya hay un nivel por encima de estos, no tan obvio, pero suficiente para levantar sospechas. “Ninguno es lo suficientemente bueno como para justificar dedicar más tiempo a ellos”, explica, pero agrega: “Es inevitable que ese grupo crezca con el tiempo y se convierta en otro problema”.
No es un problema que Clarke enfrente solo. El editor informa que otros en posiciones similares enfrentan los mismos desafíos y, claramente, si le está sucediendo a Clarkesworld, sucederá en cualquier lugar que esté abierto a envíos para su publicación. Y aunque, en su mayor parte, tales envíos se descartan simplemente porque no serán lo suficientemente buenos para su publicación, es un proceso costoso y lento para navegar entre las falsificaciones.
Clarke agrega que las herramientas de detección de terceros que se supone que pueden reconocer contenido plagiado o escrito por IA no son la solución, dada la cantidad de falsos positivos y negativos y, de hecho, el costo de dichos servicios. Otras medidas a corto plazo, como prohibiciones regionales en partes del mundo de donde provienen la mayoría de las entradas falsificadas, tampoco son la respuesta. Como dice Clarke en su artículo,
Está claro que los negocios como siempre no serán sostenibles y me preocupa que este camino conduzca a un mayor número de barreras para los autores nuevos e internacionales. Ficción corta necesidades estas personas.
Y, por supuesto, este no es un problema que vaya a ser más fácil. El ritmo con el que están mejorando los bots de chat de IA es suficiente para que escribas ideas para una historia corta de ciencia ficción y, presumiblemente, los próximos ajustes harán que sea cada vez más difícil detectarlas de inmediato. Sin embargo, es probable que todavía estemos bastante lejos de que la IA pueda crear historias que realmente valga la pena leer. Le pregunté a Clarke si pensaba que este sería probablemente el caso. “Por el momento, todavía se necesita una mejora considerable”, dijo, sin querer aventurar una conjetura sobre cuánto tiempo podría durar ese salto a partir de ahora.
Pero esto no proporciona mucho consuelo. “Todavía tenemos preocupaciones éticas sobre los medios por los cuales se crean estas obras”, dijo Clarke. mi ciudad“y hasta que tales preocupaciones puedan mejorarse, ni siquiera consideraremos la publicación de trabajos generados por máquinas”.
Los intentos de ChatGPT y Chatsonic en una historia de ciencia ficción
Ya existen servicios como ChatSonic que se promocionan audazmente como un medio para crear bloques de escritura no plagiados que los estudiantes pueden usar. Previamente participé en debates agotadoramente fútiles con la propia IA sobre cómo esto claramente es una trampa, por lo que se indigna enormemente, defendiéndose con argumentos circulares y una determinación de que simplemente pedirle al bot palabras sobre un tema es un acto creativo en sí mismo.
De hecho, mientras escribía el párrafo anterior, le pedí a ChatSonic que me escribiera una historia corta de 1,000 palabras sobre una IA que escribe ciencia ficción y gana un premio Hugo. Por alguna razón solo llegó a 293 palabras (malditos freelancers), y es abismal, pero tardó unos segundos:
Mientras tanto, ChatGPT se esforzó mucho más, alcanzó el número de palabras y escribió algo que tenía cierto sentido de la creatividad detrás. En última instancia, sigue siendo una historia terrible, e hilarantemente engreída, pero inquietantemente competente:
(Er, supongo que pegaré la segunda mitad en los comentarios, si estás desesperado por saber cómo termina).
¿Puede la IA superar la creatividad humana?
Clarke mencionó anteriormente que tiene muchas preocupaciones éticas que resolver antes incluso de considerar publicar escritos creados por IA. Pero, ¿podría ocurrir tal cosa alguna vez? Si la IA pudiera generar historias originales que valga la pena leer, ¿sería razonable publicar tales cosas? “Primero”, nos dijo Clarke, “necesitas estas herramientas para poder escribir algo que vaya más allá de su conjunto de datos. Verdadera imaginación, no un remix. En ese momento, puede rivalizar con nuestros mejores autores, pero no necesariamente se garantiza que sea mejor”.
Por supuesto, “mejor” podría no ser el último factor definitorio. Como añade Clarke, “la gran diferencia, y la que nos causa problemas ahora, es la velocidad. Una máquina puede producir más y enterrar a un artista humano en el ruido de todo”.
Y en caso de que todo esto no te preocupara lo suficiente, terminemos con el escalofriante párrafo final de ChatGPT para la historia corta que pedí antes:
Algunas personas todavía eran escépticas, por supuesto. Creían que una IA nunca podría ser verdaderamente creativa, que solo estaba regurgitando información que había sido programada en ella. Pero los fanáticos de SciFiGenius lo sabían mejor. Sabían que la IA era capaz de mucho más que escupir historias preescritas. Sabían que era un verdadero artista, capaz de crear obras que tocaron el corazón y la mente de millones de personas.
Por cierto, puedes apoyar a la revista Clarkesworld de muchas maneras diferentes. Eso es algo que está a punto de volverse aún más importante, cuando Amazon abandona sus servicios de suscripción de Kindle a finales de este año.