Una destacada revista científica se ha retractado oficialmente de un artículo que presentaba una imagen generada por IA de una rata con genitales grandes junto con una serie de palabras sin sentido. Este vergonzoso cambio pone de relieve el riesgo de utilizar las cada vez más populares herramientas de inteligencia artificial en la literatura científica. Aunque algunas revistas importantes ya están dominando la práctica, los investigadores se preocupan El uso incontrolado de las herramientas de IA podría promover hallazgos inexactos y potencialmente dañar la reputación de instituciones e investigadores.
¿Cómo pasó una rata generada por IA la revisión por pares?
Las imágenes generadas por IA aparecieron en un papel publicado a principios de esta semana en la revista Fronteras en biología celular y del desarrollo. Los tres investigadores, del Hospital Xi’an Honghui y de la Universidad Xi’an Jiaotong, estaban investigando investigaciones actuales relacionadas con células madre de esperma de pequeños mamíferos. Como parte del artículo, los investigadores incluyeron una ilustración de una rata de dibujos animados con un falo que se eleva sobre su propio cuerpo. Aparecieron etiquetas junto a la rata con palabras incoherentes como “testtomcels”, “Dissisilcied” y “dck”. Los investigadores reconocieron abiertamente que utilizaron el generador de imágenes de IA de Midjoruney para producir la imagen en el texto que acompaña a la figura.
A la rata generada por IA le siguieron tres figuras más que supuestamente representaban vías de señalización complejas. Aunque inicialmente parecían menos discordantes visualmente que la rata animada, estaban igualmente rodeados de galimatías sin sentido generado por IA. Combinadas, las extrañas cifras rápidamente atrajeron la atención entre los académicos en las redes sociales, con algunas interrogatorio cómo las cifras claramente inexactas lograron colarse Fronteras proceso de revisión.
Erm, ¿cómo logró la Figura 1 pasar un revisor por pares? https://t.co/pAkRmfuVed H/T @aero_anna pic.twitter.com/iXpZ1FvM1G
– Dr. CJ Houldcroft 🕷️ (@DrCJ_Houldcroft) 15 de febrero de 2024
Aunque muchos investigadores han advertido contra el uso de material generado por IA en la literatura académica, Fronteras políticas No prohibir a los autores el uso de herramientas de inteligencia artificial, siempre que incluyan una divulgación adecuada. En este caso, el autor declaró claramente que utilizaron el generador de imágenes de IA de Midjourney para producir los diagramas. Aún así, las pautas del autor de la revista señalan que se debe verificar la precisión de las cifras producidas con estas herramientas, lo que claramente no parece haber sucedido en este caso.
Desde entonces, la revista ha emitido una retractación completa, diciendo que el artículo “no cumple [Frontiers’] estándares de rigor editorial y científico”. en un publicación de blog adjunta, Fronteras dijo que había eliminado el artículo y las cifras generadas por IA que contenía de sus bases de datos “para proteger la integridad del registro científico”.
La revista afirma que los autores del artículo no respondieron a las solicitudes de un revisor que les pedía que revisaran las cifras. Ahora, Fronteras dice que está investigando cómo pudo suceder todo esto en primer lugar. Uno de los críticos estadounidenses. supuestamente le dijo a la placa base Revisaron el artículo únicamente por su mérito científico. Afirmaron que la decisión de incluir la figura generada por IA quedó en última instancia en manos de Fronteras.
“Pedimos disculpas sinceras a la comunidad científica por este error y agradecemos a nuestros lectores que rápidamente nos informaron sobre esto”. Fronteras escribió.
Fronteras no respondió de inmediato a ciencia pop petición de comentario.
La experta en integridad científica Elisabeth Bik, que pasa gran parte de su tiempo detectando imágenes manipuladas en revistas académicas, describió la figura como un “triste ejemplo” de cómo las imágenes generativas de IA pueden pasar desapercibidas. Aunque la figura fálica en particular era fácil de detectar, Bik advirtió que su publicación podría presagiar más entradas dañinas en el futuro.
“Estas cifras claramente no son científicamente correctas, pero si ilustraciones tan fallidas pueden pasar la revisión por pares tan fácilmente, es probable que ya se hayan infiltrado en la literatura científica figuras más realistas generadas por IA”, dijo Bik. escribió en su blog
¡¡¡Fig. 3!!! https://t.co/iniUMlZiAK pic.twitter.com/DJqMVFoaeo
—Craig Kaplan (@TriggerLoop) 15 de febrero de 2024
¿Deberían las revistas académicas permitir material generado por IA?
Con más de cinco millones de artículos académicos Publicado en línea cada año, es casi imposible medir con qué frecuencia los investigadores recurren a imágenes generadas por IA. ciencia pop pudo detectar al menos otro ejemplo obvio de lo que parecía ser una imagen generada por IA que representa a dos elefantes africanos peleando, que apareció en un kit de prensa para un artículo publicado recientemente. Metabolismo de la naturaleza papel. La imagen generada por IA no se incluyó en el artículo publicado.
Pero incluso si las imágenes generadas por IA no inundan los artículos en este momento, todavía hay un incentivo para que los investigadores con poco tiempo recurran a herramientas cada vez más convincentes para producir trabajos publicados a un ritmo más rápido. Algunas revistas destacadas ya están tomando precauciones para evitar que se publique el contenido.
El año pasado, Naturaleza publicó un texto enérgico declaración diciendo que no permitiría que aparezcan imágenes o videos generados por IA en sus revistas. La familia de revistas publicadas por Ciencia son prohibido el uso de textos, imágenes o figuras generado por IA sin obtener primero el permiso de un editor. la naturaleza El consejo editorial dijo que su decisión, tomada después de meses de deliberación, se debió principalmente a dificultades relacionadas con la verificación de los datos utilizados para generar contenido de IA. La junta también expresó su preocupación por la incapacidad de los generadores de imágenes de acreditar adecuadamente a los artistas por su trabajo.
Las empresas de inteligencia artificial responsables de estas herramientas están luchando actualmente contra una serie de demandas de artistas y autores quienes dicen que estas herramientas están escupiendo ilegalmente imágenes creadas en materiales protegidos por derechos de autor. Además de las cuestiones de atribución, las herramientas de IA generativa tienden a arrojar texto y producir imágenes que no son objetivas o conceptualmente precisas, un fenómeno al que los investigadores se refieren como “alucinaciones.” En otros lugares, los investigadores advierten que las imágenes generadas por IA podrían usarse para crear imágenes falsas realistas, también conocidos como deepfakes, que según ellos podrían usarse para dar credibilidad a datos defectuosos o conclusiones inexactas. Todos estos factores presentan desafíos para los investigadores o revistas que buscan publicar material generado por IA.
“El mundo está al borde de una revolución de la IA” la naturaleza escribió el consejo editorial el año pasado. “Esta revolución es muy prometedora, pero la IA (y en particular la IA generativa) también está cambiando rápidamente convenciones establecidas desde hace mucho tiempo en ciencia, arte, publicaciones y más. En algunos casos, estas convenciones han tardado siglos en desarrollarse, pero el resultado es un sistema que protege la integridad de la ciencia y protege a los creadores de contenido de la explotación. Si no somos cuidadosos en nuestro manejo de la IA, todos estos logros corren el riesgo de desmoronarse”.