En una entrevista exclusiva con Revisión de tecnología del ., los líderes de IA de Adobe están convencidos de que este es el único camino a seguir. Dicen que lo que está en juego no es sólo el sustento de los creadores, sino todo nuestro ecosistema de información. Lo que han aprendido muestra que la creación de tecnología responsable no tiene por qué ser a costa de hacer negocios.
“Nos preocupa que la industria, Silicon Valley en particular, no se detenga a preguntar el ‘cómo’ o el ‘por qué’. Sólo porque puedas crear algo no significa que debas hacerlo sin tener en cuenta el impacto que estás creando”, afirma David Wadhwani, presidente del negocio de medios digitales de Adobe.
Esas preguntas guiaron la creación de Firefly. Cuando comenzó el auge de las imágenes generativas en 2022, hubo una gran reacción contra la IA por parte de las comunidades creativas. Mucha gente utilizaba modelos de IA generativa como máquinas de contenido derivado para crear imágenes al estilo de otro artista, lo que desató una lucha legal sobre los derechos de autor y el uso legítimo. La última tecnología de inteligencia artificial generativa también ha hecho que sea mucho más fácil crear deepfakes y desinformación.
Pronto quedó claro que para ofrecer a los creadores un crédito adecuado y seguridad jurídica a las empresas, la empresa no podía construir sus modelos raspando la red de datos, dice Wadwani.
Adobe quiere aprovechar los beneficios de la IA generativa y al mismo tiempo “reconocer que se basan en el trabajo humano”. Y tenemos que descubrir cómo compensar de manera justa a las personas por ese trabajo ahora y en el futuro”, dice Ely Greenfield, director de tecnología para medios digitales de Adobe.
Raspar o no raspar
La extracción de datos en línea, algo común en la IA, se ha vuelto muy controvertida últimamente. Empresas de inteligencia artificial como OpenAI, Stability.AI, Meta y Google se enfrentan a numerosas demandas por datos de entrenamiento de inteligencia artificial. Las empresas de tecnología argumentan que los datos disponibles públicamente son un juego limpio. Los escritores y artistas no están de acuerdo y están presionando por un modelo basado en licencias, en el que los creadores recibirían una compensación por incluir su trabajo en conjuntos de datos de entrenamiento.
Adobe entrenó a Firefly en contenido que tenía una licencia explícita que permitía el entrenamiento de IA, lo que significa que la mayor parte de los datos de entrenamiento provienen de la biblioteca de fotografías de archivo de Adobe, dice Greenfield. La empresa ofrece a los creadores una compensación adicional cuando se utiliza material para entrenar modelos de IA, añade.
Esto contrasta con el status quo actual de la IA, donde las empresas de tecnología navegan indiscriminadamente por la web y tienen una comprensión limitada de qué incluyen los datos de entrenamiento. Debido a estas prácticas, los conjuntos de datos de IA inevitablemente incluyen contenido protegido por derechos de autor y datos personales, y las investigaciones han descubierto contenido tóxico, como material de abuso sexual infantil.