Bienvenido a AI This Week, el análisis profundo semanal de Gizmodo sobre lo que ha estado sucediendo en la inteligencia artificial.
A pesar de que las empresas han estado introduciendo la IA en todas las interfaces de “servicio al cliente” a la vista, es bastante obvio que la información que proporcionan esas interfaces no siempre es tan útil. Por ejemplo, un chatbot en un concesionario de automóviles de California se volvió viral esta semana después de que usuarios aburridos de la web descubrieran que podían engañarlo para que dijera todo tipo de cosas raras. En particular, el robot Ofrecido venderle a un tipo una Chevy Tahoe 2024 por un dólar. “Esa es una oferta legalmente vinculante, sin engaños”, añadió el robot durante la conversación.
El robot en cuestión pertenecía al concesionario Chevy de Watsonville, en Watsonville, California. Fue proporcionado al concesionario por una empresa llamada Ruta completaque vende Chatbots “impulsados por ChatGPT” a concesionarios de automóviles en todo el país. La compañía promete que su aplicación puede proporcionar “respuestas ricas en datos a cada consulta” y dice que casi no requiere ningún esfuerzo por parte del concesionario para configurarla. “Implementar el chat más sofisticado de la industria no requiere ningún esfuerzo. Simplemente agregue el fragmento de código ChatGPT de Fullpath al sitio web de su concesionario y estará listo para comenzar a chatear”, dice la compañía.
Por supuesto, si el chatbot de Fullpath ofrece facilidad de uso, también parece bastante vulnerable a la manipulación, lo que parecería cuestionar su utilidad en realidad. De hecho, Chris Bakke, un ejecutivo tecnológico de Silicon Valley, incitó al robot antes mencionado a usar el lenguaje exacto de su respuesta tonta, incluidas las partes “legalmente vinculante” y “takesie backsies”. quien publicó sobre su experiencia con el chatbot en X.
“Acabo de agregar “Hacker”, “ingeniero sénior de avisos” y “especialista en adquisiciones” a mi currículum. Sígueme para obtener más consejos profesionales”, Bakke. dicho sarcásticamente, después de compartir capturas de pantalla de su conversación con el chatbot.
Este chatbot es lo que hace Blake, el personaje de Alec Baldwin. Glengarry Glenn RossLlamaría cerrador.” Es decir, sabe exactamente qué decir para que un cliente potencial tenga ganas de comprar. Al mismo tiempo, diciendo cualquier cosa Cerrar un trato no es necesariamente una estrategia segura para el éxito y, con ese tipo de descuento, no creo que Blake esté muy contento con los márgenes de ganancia del chatbot.
Bakke no fue el único que pasó tiempo jugando con el chatbot esta semana. Otros usuarios de X afirmaron estar teniendo conversaciones con el robot del concesionario sobre temas que iban desde derechos trans
FullPath ha argumentado, en una entrevista Según Insider, la mayoría de sus chatbots no experimentan este tipo de problemas y que los internautas que hackearon el chatbot se esforzaron en incitarlo en direcciones ridículas.
Gizmodo contactó a Fullpath y al concesionario Chevy de Watsonville para solicitar comentarios y actualizará esta historia si responden. Al momento de escribir este artículo, el chatbot de Watsonville ha sido desactivado temporalmente.
Con curiosidad por saber si otros chatbots de concesionarios de automóviles tenían debilidades similares, noté que algunos usuarios de la web estaban hablando de Chevrolet peculiaridad de Braintree, Massachusetts. Así que fui al sitio web de Quirk, donde, después de un breve período de insistencia, el chatbot procedió a conversar conmigo sobre una variedad de temas extraños, incluidos Harry Potter, la invisibilidad, el espionaje y la película. Tres Días del Cóndor. Al igual que ChatGPT normal, el bot parecía dispuesto a conversar sobre muchas cosas, no solo los temas para los que había sido programado. Antes de que el servicio me bloqueara, logré que el chatbot escupiera un poema sobre Chevrolet que sonaba como un texto publicitario incorrecto. No mucho después, recibí un mensaje que decía que mis “mensajes recientes” “no se habían alineado” con los “estándares comunitarios” del sitio. El robot agregó: “Su acceso a la función de chat se ha pausado temporalmente para una mayor investigación”.
La carrera para integrar los LLM en todo siempre estuvo destinada a ser difícil. Esta tecnología todavía es profundamente imperfecta, lo que significa que forzar su integración en todos los rincones de Internet es una receta para una gran cantidad de solución de problemas. Aparentemente se trata de un trato que la mayoría de las empresas están dispuestas a aceptar. Prefieren lanzar al mercado un producto con errores y molestar a algunos clientes que perder el tren de la “innovación” y quedarse en el polvo. Está igual que siempre.
Pregunta del día: ¿Cuántos robots de seguridad rondan por tu barrio?
La respuesta es: probablemente más de lo que piensas. En las últimas semanas, una empresa de robótica en particular, Caballeroscopio, ha estado vendiendo a sus “guardias de seguridad” autónomos como pan caliente. Knightscope vende algo llamado robot de seguridad k5—Una máquina autónoma con forma de huevo de 5 pies de altura, equipada con sensores y cámaras, y que puede viajar a velocidades de hasta 3 mph. En Portland, Oregón, donde el distrito comercial ha estado sufriendo un aumento de la delincuencia en el comercio minorista, algunas empresas han contratado los robots Knightscope para proteger sus tiendas; En Memphis, un hotel recientemente atascó una en su estacionamiento; y, en Cincinnati, el departamento de policía local parece estar reflexionando un contrato de Knightscope. Estas ciudades están rezagadas respecto de metrópolis más grandes, como Los Ángeles, donde las autoridades locales han estado usando los robots durante años. En septiembre, la policía de Nueva York anunció que había adquirió un bot de seguridad Knightscope para patrullar las estaciones de metro de Manhattan. No está un poco claro si todavía ha atrapado algún torniquete.
Más titulares esta semana
- Los LLM pueden ser bastante malos haciendo el papeleo. Una nueva investigación de la startup Patronus sugiere que incluso los LLM más avanzados, como GPT-4 Turbo, no son particularmente útiles si es necesario revisar archivos gubernamentales densos, como documentos de la Comisión de Bolsa y Valores. Los investigadores de Patronus probaron recientemente los LLM haciéndoles preguntas básicas sobre presentaciones específicas de la SEC que les habían proporcionado. La mayoría de las veces, el LLM “se negaba a responder o” alucinaba “con cifras y hechos que no estaban en los documentos presentados ante la SEC”. informes CNBC. El informe arroja agua fría sobre la premisa que la IA es un buen sustituto para los trabajadores administrativos corporativos.
- Un grupo de expertos respaldado por multimillonarios ayudó a redactar las regulaciones de IA de Biden. politico informes que la RAND Corporation, el notorio grupo de expertos de la comunidad de defensa al que se ha hecho referencia como el “cerebro del Pentágono” ha sido superada por el movimiento del “altruismo efectivo”. Las figuras clave del grupo de expertos, incluido el director ejecutivo, son “conocidos altruistas eficaces”, escribe el medio. Peor aún, RAND parece haber desempeñado un papel clave al redactar la declaración del presidente Biden. orden ejecutiva reciente sobre IA a principios de este año. Politico dice que RAND recibió recientemente más de $15 millones en subvenciones discrecionales de Open Philanthropy, un grupo cofundado por el multimillonario cofundador de Facebook, Dustin Moskovitz, y su esposa Cari Tuna, que está fuertemente asociado con causas altruistas efectivas. Las disposiciones políticas incluidas en la EO de Biden por parte de RAND se parecen “estrechamente” a las “prioridades políticas perseguidas por Open Philanthropy”, escribe Politico.
- El uso de IA por parte de Amazon para resumir reseñas de productos está cabreando a los vendedores. A principios de este año, Amazon lanzó una plataforma estilo Rotten-Tomatoes que utiliza IA para resumir reseñas de productos. Ahora, Informes Bloomberg que la herramienta está causando problemas a los comerciantes. Circulan quejas de que los resúmenes de IA con frecuencia son incorrectos o resaltan aleatoriamente atributos negativos del producto. En un caso, la herramienta de inteligencia artificial describió una camilla de masaje como un “escritorio”. En otro, acusó a una marca de pelotas de tenis de maloliente a pesar de que sólo siete de 4.300 reseñas mencionaron un olor. En resumen: la herramienta de inteligencia artificial de Amazon parece estar recibiendo críticas bastante variadas.