El marketing de IA está en un punto álgido, prometiendo que esta nueva ola de herramientas generativas de IA, impulsadas por grandes modelos de lenguaje, pueden ayudarnos a hacer todo, desde navegando contratos legales a ahorrando cientos en nuestras facturas de teléfono. Cuando un líder como el CEO de Alphabet, Sundar Pichai, llama a la IA “más profunda que el fuego o la electricidad”, es difícil no entusiasmarse con el potencial. Pero como director ejecutivo de Consumer Reports, sé que algunos de los objetos más brillantes del mercado no siempre están a la altura de sus expectativas. El apetito voraz de las ganancias trimestrales es con demasiada frecuencia el motor detrás de la IA generativa que cambia la sociedad actual, y los consumidores tendrán que luchar por el trato justo. Solo cuando la revolución de la IA se centre en la transparencia, la precisión y la equidad, podremos asegurarnos de que esté a la altura de su verdadero potencial para nosotros, los consumidores cotidianos, no solo para los accionistas corporativos.
Nunca se garantiza un enfoque centrado en el consumidor. Cuando se fundó Consumer Reports en 1936, había poca información disponible públicamente para ayudar a los estadounidenses a evaluar la seguridad y el rendimiento de los productos. Fue una era de reclamos publicitarios sin restricciones, rápido progreso tecnológico y regulaciones de retazos. ¿Suena familiar? Hoy en día, nuestros productos transformadores no tienen una naturaleza física como la que tenían en 1936, o incluso en 1996, pero, sin embargo, el rigor con el que deben probarse y las empresas deben rendir cuentas sigue siendo el mismo.
Solo necesitamos mirar al pasado reciente para comprender qué problemas podemos esperar con la revolución de la IA que estamos experimentando. La avalancha de las redes sociales y la transformación digital de los mercados en línea hizo muchas promesas similares a las que hace hoy la revolución de la IA: conexión instantánea, mayor velocidad y precisión de la información, la democratización del poder. Sin embargo, estas herramientas también generaron nuevas variantes de manipulación y discriminación, que todavía estamos luchando para abordar por completo con resultados mixtos.
Los problemas fundamentales no son nuevos, pero están potenciados por la IA Durante años, los estafadores han utilizado Internet para aprovecharse de los consumidores. Ahora están usando IA para imitar las voces de los seres queridos, engañar a los abuelos para que “ayudan” enviando dinero o proporcionando información confidencial. Las empresas ya utilizan motores de búsqueda para desdibujar la línea entre las respuestas a nuestras preguntas y los anuncios para vendernos productos. Con las herramientas de búsqueda generativas de IA, los consumidores podrían enfrentarse a una supercomputadora, impulsada por sus datos personales, que prioriza las ganancias de una empresa, no las respuestas honestas o sus mejores intereses.
Podría decirse que el problema más insidioso para desenraizar son los datos sesgados que potencialmente impulsan esta tecnología innovadora. Incluso antes de la nueva explosión de la IA generativa, los expertos ya habían expuesto cómo la tecnología algorítmica que impulsa nuestro mundo actual podría discriminar. Por ejemplo, una investigación conjunta de Consumer Reports y ProPublica descubrió que algunas compañías de seguros de automóviles potencialmente usaban un algoritmo que primas cobradas en promedio un 30% más altas
Debemos hacernos una pregunta crucial: ¿estamos creando un mundo donde esta tecnología nos sirva o donde nosotros sirvamos esta tecnología? A medida que adoptamos los beneficios de la IA, debemos asegurarnos de que esta innovación en este espacio esté impulsada por los valores del consumidor primero.
La IA generativa debe ser transparente: la clave para la rendición de cuentas. Para que los defensores y los reguladores revisen los daños potenciales, necesitan información sobre los datos utilizados para informar a cualquier IA, con modelos abiertos a investigadores externos para realizar pruebas. Muchos proveedores de modelos se están asociando con instituciones de investigación para evaluar y reducir el riesgo, pero no podemos confiar solo en la autoorganización y la divulgación voluntaria cuando las ganancias impulsan los intereses de la empresa. Para los consumidores individuales, la transparencia significa que debe quedar muy claro si alguien está pagando por la información que recibimos y si estamos interactuando con una persona real o artificial.
Los modelos de IA generativa también deben garantizar la precisión por diseño. Los consumidores deben poder asumir que la información que reciben es verdadera y precisa, no palabras vacías o publicidad disfrazada. Esto requiere la diligencia debida y la supervisión de las empresas, así como un proceso para que las personas corrijan o impugnen la información que proporciona AI.
Y la equidad debe estar en el corazón de la IA, desarrollada e implementada teniendo en cuenta la equidad. Eso significa revisar los sesgos en los datos ingresados, durante el diseño y durante la vida útil del producto, asegurando que todas las comunidades disfruten los beneficios de esta tecnología.
El lanzamiento de IA promete mucho, y creo en el potencial. Pero con el desencadenamiento de esta nueva clase de tecnología viene una nueva clase de responsabilidad, transparencia y rendición de cuentas. Vale la pena luchar por la protección del consumidor y, juntos, podemos garantizar que esta nueva era de revolución de la IA esté guiada por una nueva era de derechos del consumidor.
Marta Tellado es directora general de Consumer Reports desde 2014.
¿Quiere saber más sobre la IA, los chatbots y el futuro del aprendizaje automático? Consulte nuestra cobertura completa de inteligencia artificialo explore nuestras guías para Los mejores generadores de arte de IA gratuitos y Todo lo que sabemos sobre ChatGPT de OpenAI.