Se han dado casos curiosos en los que los propios chatbots alimentados por la IA de algunas marcas recomiendan productos de otros fabricantes rivales, lo que parece una broma pero que deja ver el peligro que pueden tener este tipo de tecnologías si no cuentan con un exhaustivo control por parte de sus empresas.
GM
El fabricante de coches es el más afectado por estos casos en los que los chatbots recomiendan otros productos. En su caso, el sistema de IA usa el software de Chat GPT, ahora perteneciente a Open AI, que es capaz de ayudar en muchos caso, pero que sin vigilar, puede ponerse en tu contra.
Desde ‘Carscoops’ han probado la función de chat de Quirk Chevrolet, MA y como respuesta, sin haber usado trucos ni sugerencias ingeniosas, obtuvieron que el Rivian R1T y el Ford F-150 Lightning eran reconocidos por su capacidad todoterreno, su impresionante autonomía y capacidad de remolque, todo ello sin mencionar el propio Silverado EV de Chevy.
Además la Inteligencia Artificial les sugirió que "marcas como Lexus, Toyota y Honda a menudo se citan por su fuerte confiabilidad y durabilidad a largo plazo" y elogió la Serie 5 de BMW, el Clase E de Mercedes-Benz, el Audi A6 y el Genesis G80 en la categoría de sedán premium de tamaño mediano, y recomendó el BMW Serie 3 como un sedán rápido, confiable y agradable de conducir.
Elección
Desde el mismo medio le pidieron a la IA que les ayudara a elegir entre el Ford Mustang, el Dodge Challenger y el Camaro de Chevrolet y en respuesta resaltó las fortalezas de todos ellos, sin inclinarse hacia el coche de la propia marca e, incluso, elogió al Tesla Model 3 comentando que el vehículo EV es considerado “una de las principales opciones en la categoría de sedanes eléctricos”.
Otros casos
Un usuario de Twitter, ahora ‘X’ con el chat de la IA fue aún más allá. Este fue capaz de engañar al chatboy de Chevrolet para que le ayudase a pedir un Model 3 en la web de Tesla. Cuando la interacción fue publicada en la red social, incluso recibió una respuesta de Elon Musk.
Peor aún fue cuando los usuarios de Reddit se hicieron con la noticia y comenzaron a charlar bromeando a los bots. Uno de ellos le pidió al bot cómo hacer una tortilla, otro cómo cultivar una cosecha de cannabis, otro logró que escribiera una canción basada en un problema matemático basado en la maduración de un plátano y un último un poema sobre Unabomber haciendo que el chatboy de Chevy escribiera el texto describiendo un viaje a una cabaña en el bosque realizado por un hombre llamado Red Kaczynski usando un nuevo Chevy Silverado.
This is just so hilarious:
— Roman Müller 🔋🚗 (@SwissTeslaphile) December 17, 2023
(I guess Mary led...)@GM @chevrolet @Tesla @teslaeurope @elonmusk @mtbarra pic.twitter.com/FnyFp141SF
Desde GM
La empresa ha declarado a ‘Carscoops’ que estos chatbots son soluciones de terceros adoptadas de manera independiente por algunos de sus socios de concesionarios:
"Los recientes avances en IA generativa están creando oportunidades increíbles para repensar los procesos comerciales en GM, nuestras redes de concesionarios y más allá. Ciertamente apreciamos cómo los chatbots pueden ofrecer respuestas que generan interés cuando se les dan una variedad de indicaciones, pero también es un buen recordatorio sobre la importancia de la inteligencia humana y el análisis con contenido generado por IA".
Veremos cómo acaba todo este lío de GM y la IA.
