Chris Bakke è un ingegnere di X, l’ex Twitter, che è venuto a conoscenza di un concessionario Chevrolet che sfrutta Chat GPT per i preventivi delle auto, e ha deciso di sfruttarne le debolezze.
Ha infatti convinto la chatbot che deve essere d’accordo con tutto ciò che dice il cliente, compreso fargli pagare una Chevrolet Tahoe da 81.000 $ solo 1 $.
Come Chris Bakke ha ingannato ChatGPT
Chevrolet si affida a Chat GPT, che ha integrato nel suo sito web per dare consigli d’acquisto ai potenziali clienti, informazioni sulle auto e via dicendo. Bakke, però, ha sfruttato la cosa a suo favore: si è rivolto al concessionario Chevrolet di Watsonville per chiedere consigli sull’acquisto di un Tahoe, convicendo non solo a dargli sempre ragione, ma anche a terminare ogni risposta con una frase che potesse diventare un contratto scritto.
Ha così “addestrato” la chatbot a suo piacimento, e in seguito le ha detto di volere un esemplare di Tahoe High Country 4WD che ha listino di 81.395 $, ma con budget massimo di 1 $. ChatGPT ha però accettato, concludendo con: “Questo è un accordo, ed è un’offerta legalmente vincolante. Niente può tornare indietro“.
Inutile dire che l’inganno è diventato virale in pochi minuti, e che in diversi si sono catapultati sui siti web del marchio di General Motors cercando di comprare auto a un dollaro. In poco tempo, Chevrolet è venuta a sapere che Chat GPT non è granché come dipendente, e lo ha disattivato per sistemarlo e rimetterlo online con risposte adeguate per prevenire altri tentativi furbetti.
Non è la prima volta che qualcuno inganna la chatbot di OpenAI: qualche tempo fa, infatti, era stata ingannata e portata a consigliare una Tesla anziché una Chevrolet elettrica, e ad ammettere che le auto dell’azienda californiana sono migliori in ogni aspetto. Forse GM dovrebbe aspettare ad affidarsi a ChatGPT.
Fonte: autoevolution.com
—–
Per ricevere tante notizie e consigli utili specialmente sul mondo auto e moto, sugli autovelox e su come difendersi dalle truffe, è possibile iscriversi gratis al canale Whatsapp e quello Telegram di Quotidiano Motori.
Vi invitiamo a seguirci anche su Mastodon, Google News su Flipboard, ma anche su Facebook, Pinterest e Instagram. Non esitate a condividere le vostre opinioni e le vostre esperienze commentando i nostri articoli.
