Grokla herramienta de inteligencia artificial disponible para los suscriptores de pago en X y adorada por Elon Musk, generó otra noticia falsa basada en chistes el lunes. Y aunque esta última historia sobre el lunes Eclipse solar no es tan terrible como las “noticias” inexactas de la semana pasada de que Irán había lanzado un ataque contra Israel, todavía demuestra que Grok tiene un largo camino por recorrer antes de que alguna vez sea una herramienta útil y precisa.
El titular disponible para los suscriptores de Grok el lunes decía: “El extraño comportamiento del sol: los expertos desconcertados”. Y continuó explicando que el sol se había “comportado de manera inusual, provocando preocupación y confusión generalizadas entre el público en general”.
La noticia afirmaba que incluso con la creciente preocupación del público, “no ha habido ninguna declaración oficial ni explicación por parte de las autoridades científicas sobre el estado actual del sol”. No hace falta decir que los científicos definitivamente entienden lo que estaba sucediendo con el Eclipse solar
Los tweets que aparentemente provocaron esta extraña proclamación de Grok incluían chiste tras chiste de personas preguntándose dónde se había ido el sol. Parece que tanta gente haciendo el mismo chiste confundió a Grok, que intentó convertir los chistes en algo que todos deberíamos preocuparnos.
“¿¿¿QUÉ MIERDA LE ESTÁ PASANDO AL SOL AHORA MISMO?????” el tweet principal, escrito por el comediante Michael Ian Black, leído el lunes.
“Algo está pasando con el sol. No quiero alarmar a nadie, pero parece que no soy el único que lo nota”, bromeó otro usuario de X.
Grok, que se lanzó por primera vez para un grupo limitado de usuarios en diciembre pero ahora está disponible para todos los clientes que pagan, ha sido promocionado por el propietario de X, Musk, como la “IA anti-despertar”. Musk se ha quejado repetidamente de que las herramientas de inteligencia artificial de la competencia están demasiado “despiertas”, un sentimiento que compartió una vez más durante una charla de X Spaces el lunes. De hecho, Musk afirmó que la IA despierta podría acabar con los humanos reales en el futuro porque está tratando de imponer cierta cuota de diversidad.
“Se puede tomar el ejemplo de Google Gemini, donde se negó a publicar… para producir una foto de George Washington como un hombre blanco”, dijo Musk el lunes.
“Y cualquier figura histórica automáticamente se volvería diversa porque ha sido programada para insistir en la diversidad, lo cual, ya sabes, suena bien al principio. Pero no si la IA tiene tanto poder que puede imponer la diversidad y decidir que hay demasiadas personas de un mismo tipo o demasiadas de un sexo y simplemente matar a suficientes hasta que el número de diversidad sea el que está programado para creer que es correcto”. Musk continuó.
Independientemente de lo que piense sobre la visión de Musk sobre la política de la IA, Grok ha tropezado una y otra vez al crear noticias falsas a partir de tweets de usuarios de X, incluida la semana pasada cuando generó el titular, “Irán ataca Tel Aviv con misiles pesados”. Israel ha estado en alerta máxima en previsión de un posible ataque por parte de Irán, e incluso ha codificado las señales de GPS en un intento de confundir a cualquier misiles entrantes. Pero no ha habido ningún ataque contra Tel Aviv, a pesar de lo que insistió Grok.
Tenga la seguridad de que Grok no está cometiendo estos errores porque esté demasiado despierto o demasiado anti-despertado. La IA suele cometer errores porque simplemente todavía no es una tecnología muy buena. Los impulsores de la IA han pasado la mayor parte del último año convenciendo al público en general de que se trata de un avance milagroso que pronto alcanzará algo parecido a la sensibilidad humana. Pero no contengas la respiración en esa última parte.
La IA generativa es poco más que una versión mejorada del autocompletado, lo que significa que puede parecer bastante convincente ya que imita la forma en que hablan los humanos. Pero no tiene capacidad para aplicar razonamientos o lógica complejos. Se trata simplemente de remezclar palabras de una manera realmente rápida e impresionante. Pero el “cerebro” detrás de esta tecnología no piensa, incluso cuando lo parece.
Grok no pensó en los tweets que vio de personas que bromeaban sobre el eclipse solar. Identificó patrones en X y escupió un texto con sonido humano que resumía esos patrones. Y esto seguirá sucediendo porque la única forma de corregirlo es con enormes ejércitos de humanos trabajando como turcos mecánicos entre bastidores. Grok no es tonto porque esté despierto o anti-despertado. Es una tontería porque está realizando un truco de magia del que se están enamorando innumerables personas.