Los algoritmos que nos rodean | Revisión de tecnología del .
Dejando a un lado las elevadas predicciones, el libro es una guía útil para navegar por la IA. Eso incluye comprender sus desventajas. Cualquiera que haya jugado con ChatGPT o similares, por ejemplo, sabe que estos modelos frecuentemente inventan cosas. Y si su precisión mejora en el futuro, advierte Mollick, eso no debería hacernos menos cautelosos. A medida que la IA se vuelve más capaz, explica, es más probable que confiemos en ella y, por lo tanto, es menos probable que detectemos sus errores.
El riesgo de la IA no es sólo que podamos hacer las cosas mal; podríamos perder nuestra capacidad de pensar crítica y originalmente.
Ethan Mollick, profesor, Wharton School of Business
En un estudio de consultores de gestión, Mollick y sus colegas descubrieron que cuando los participantes tenían acceso a la IA, a menudo simplemente pegaban las tareas que se les asignaban en el modelo y copiaban sus respuestas. Esta estrategia generalmente funcionó a su favor, dándoles una ventaja sobre los consultores que no usaban IA, pero fracasó cuando los investigadores lanzaron una pregunta capciosa con datos engañosos. En otro estudio, los reclutadores de empleo que utilizaron IA de alta calidad se volvieron “perezosos, descuidados y menos hábiles en su propio juicio” que los reclutadores que usaron IA de baja calidad o ninguna, lo que hizo que pasaran por alto a los buenos candidatos. “Cuando la IA es muy buena, los humanos no tienen motivos para trabajar duro y prestar atención”, se lamenta Mollick.
Tiene un nombre para el atractivo del atajo de IA: El Botón. “Cuando se enfrente a la tiranía de la página en blanco, la gente presionará el botón”, escribe. El riesgo no es sólo que podamos hacer las cosas mal, afirma; podríamos perder nuestra capacidad de pensar crítica y originalmente. Al subcontratar nuestro razonamiento y creatividad a la IA, adoptamos su perspectiva y estilo en lugar de desarrollar los nuestros propios. También nos enfrentamos a una “crisis de significado”, señala Mollick. Cuando usamos The Button para escribir una disculpa o una carta de recomendación, por ejemplo, estos gestos, que son valiosos por el tiempo y el cuidado que les dedicamos, se vuelven vacíos.
Mollick es optimista en cuanto a que podemos evitar muchos de los errores de la IA si somos deliberados sobre cómo trabajamos con ella. La IA a menudo nos sorprende sobresaliendo en cosas que creemos que no debería poder hacer, como contar historias o imitar la empatía, y fallando estrepitosamente en cosas que creemos que debería poder hacer, como las matemáticas básicas. Como no existe un manual de instrucciones para la IA, Mollick aconseja probarla para todo. Sólo probándolo constantemente podremos conocer sus capacidades y límites, que siguen evolucionando.
Y si no queremos convertirnos en pulsadores de botones estúpidos, sostiene Mollick, deberíamos pensar en la IA como un compañero de equipo excéntrico en lugar de un sirviente que todo lo sabe. Como humanos del equipo, estamos obligados a comprobar sus mentiras y prejuicios, sopesar la moralidad de sus decisiones y considerar qué tareas vale la pena encomendarle y cuáles queremos conservar para nosotros.
Más allá de sus usos prácticos, la IA evoca miedo y fascinación porque desafía nuestras creencias sobre quiénes somos. “Me interesa la IA por lo que revela sobre los humanos”, escribe Hannah Silva en Mi niño, el algoritmouna mezcla que invita a la reflexión de memorias y ficción coescrita con uno de los primeros precursores de ChatGPT. Silva es un poeta e intérprete que escribe obras de teatro para BBC Radio. Mientras vive su vida como madre soltera queer en Londres, comienza a conversar con el algoritmo, alimentándolo con preguntas y extractos de sus propios escritos y recibiendo a cambio pasajes largos y confusos. En el libro, intercala su voz con la suya propia, como fragmentos de poemas encontrados.
Un libro alternativamente inteligente
de amor
hanna silva
PRENSA DE NOTAS A PIE DE PIE, 2023
El algoritmo de Silva es menos refinado que los modelos actuales, por lo que su lenguaje es más extraño y más propenso a las tonterías y la repetición. Pero sus excentricidades también pueden hacer que suene profundo. “El amor es la expansión del vapor en una concha.”, declara. Incluso sus fallos pueden ser divertidos o reveladores. “Estoy pensando en sexo, estoy pensando en sexo, estoy pensando en sexo”, se repite una y otra vez, reflejando la propia obsesión de Silva. “Estas repeticiones ocurren cuando el algoritmo tropieza y falla”, observa. “Sin embargo, son las repeticiones las que hacen que el algoritmo parezca humano y las que provocan en mí las respuestas más humanas”.
En muchos sentidos, el algoritmo es como el niño que ella está criando. “El algoritmo y el niño aprenden del lenguaje con el que se les alimenta”, escribe Silva. Ambos están entrenados para predecir patrones. “EIEI-…”, le pide al niño. “¡Oh!” él responde. Ambos interrumpen su escritura y rara vez hacen lo que ella quiere. Ambos la deleitan con su imaginación, dándole nuevas ideas para robar. “¿Qué hay en la caja?” le pregunta la pequeña a su amiga en una ocasión. “Nada”, responde el amigo. “Está vacío”. El niño deja caer la caja y la deja caer al suelo. “¡No está vacío!” exclama. “¡Hay un ruido en él!”