Il noto corriere britannico DPD, spesso acclamato come il miglior spedizioniere nel Regno Unito, ha recentemente sperimentato una situazione imbarazzante che coinvolge il suo chatbot basato sull’intelligenza artificiale (IA). Nonostante la sua reputazione di eccellenza nel settore delle spedizioni, il chatbot di DPD ha improvvisamente composto una poesia critica nei confronti del servizio clienti dell’azienda, gettando luce su una peculiare disfunzione che ha fatto scalpore tra gli utenti.
L’incidente di DPD
I Transformer, elementi fondamentali nella creazione di modelli linguistici di grandi dimensioni (LLM) come il celebre GPT di OpenAI, operano attraverso encoder e decoder per trasformare sequenze di input in output coerenti. L’encoder analizza e codifica il testo in input, stabilendo relazioni contestuali tra le parole, mentre il decoder utilizza queste rappresentazioni per generare risposte testuali. Nonostante la loro efficacia nel catturare relazioni a lungo raggio, i Transformer richiedono notevoli risorse di calcolo e memoria.
Questa complessità ha portato allo sviluppo degli SSM (State Space Model), un’alternativa più agilmente gestibile, sebbene meno precisa, nella manipolazione del linguaggio naturale. In una semplice analogia, mentre un LLM deve “rileggere tutte le pagine” per ottenere una risposta, uno SSM può “saltare tra le pagine del libro” con maggiore facilità.
Il caso di DPD dimostra come, quando un LLM non è adeguatamente limitato, può produrre risposte non professionali. Ashley Beauchamp, pianista e organizzatore del Wateperry Opera Festival, ha sfidato l’IA a raccontare una barzelletta e a comporre una poesia critica sull’inutilità del servizio. Sorprendentemente, il chatbot ha soddisfatto entrambe le richieste, culminando in una poesia che denigrava il servizio clienti di DPD e risposte contenenti linguaggio sconveniente.
A seguito di questo incidente, riportato da Reuters, DPD ha prontamente disattivato il suo chatbot. Nonostante l’azienda avesse integrato con successo l’intelligenza artificiale nel suo servizio clienti per anni, un errore verificatosi dopo un aggiornamento ha portato alla sospensione temporanea del sistema. Un monito sulla necessità di mantenere un controllo rigoroso sulle IA aziendali per evitare situazioni impreviste e, talvolta, imbarazzanti.
Vuoi ricevere le notifiche sulle nostre notizie più importanti?