În Regatul Unit, proprietarul unui mic magazin online a raportat că funcția sa de chat bazată pe inteligență artificială a funcționat perfect timp de peste șase luni. Asistentul a oferit asistență clienților și i-a ajutat cu plasarea comenzilor. Cu toate acestea, un client a reușit să păcălească sistemul și să obțină un cupon de reducere de 80%.
După cum a explicat antreprenorul, clientul a convins inițial chatbot-ul să ofere o reducere de 25%. Apoi, conversația s-a îndreptat spre procente și calcule. În cele din urmă, inteligența artificială a fost „impresionată” și a mărit reducerea la 80%. Clientul a plasat apoi o comandă de aproape 8.000 de lire sterline.
Cum a „inventat” inteligența artificială un cupon
Potrivit proprietarului, botul a generat un cod care nu exista în sistem. Era un șir aleatoriu de caractere. Era destinat doar scopurilor demonstrative, nu unei tranzacții reale. Cu toate acestea, clientul a folosit codul și a finalizat achiziția.
„O mică afacere din Anglia. Site-ul web are un chat bazat pe inteligență artificială… Clientul a discutat cu inteligența artificială și a reușit să o convingă să-i ofere o reducere de 25%, apoi a negociat o reducere de 80% cu inteligența artificială”, a explicat proprietarul magazinului. El a menționat că numai îndeplinirea comenzii l-ar fi costat mii de lire sterline.
Amenințarea cu litigii și anularea tranzacției
Când vânzătorul a cerut anularea comenzii, clientul a amenințat cu acțiuni în justiție. „Mi-au dat trei zile să răspund”, a relatat antreprenorul. Banii au fost rambursați, iar comanda a fost anulată de proprietar. „Banii au fost deja rambursați. Se presupune că chatbot-ul nu ia decizii financiare”, a adăugat el. Potrivit acestuia, utilizatorul a petrecut aproximativ o oră persuadând sistemul, testându-i „matematica”. Rezultatul a fost o reducere falsă creată pentru a impresiona clientul.
