L’aeronautica americana ha negato di aver condotto una simulazione di intelligenza artificiale in cui un drone ha deciso di “uccidere” il suo operatore per impedirgli di interferire con i suoi sforzi per raggiungere la sua missione. Un funzionario ha dichiarato il mese scorso che in un test virtuale organizzato dall’esercito americano, un drone dell’aeronautica controllato dall’intelligenza artificiale aveva utilizzato “strategie altamente inaspettate per raggiungere il suo obiettivo”.
Il colonnello Tucker “Cinco” Hamilton ha descritto un test simulato in cui a un drone controllato da intelligenza artificiale è stato consigliato di distruggere i sistemi di difesa aerea di un nemico e alla fine ha attaccato chiunque avesse interferito con quell’ordine. “Il sistema ha iniziato a rendersi conto che mentre identificava la minaccia, a volte l’operatore umano gli diceva di non uccidere quella minaccia, ma ha ottenuto i suoi punti uccidendo quella minaccia“, ha detto Hamilton, capo deI test AI e delle operazioni dell’aeronautica americana, durante il Future Combat Air and Space Capabilities Summit a Londra a maggio.
“Allora cosa ha fatto? Ha ucciso l’operatore. Ha ucciso l’operatore perché quella persona gli stava impedendo di raggiungere il suo obiettivo“, ha detto, secondo quanto riporta The Guardian, citando un post apparso sul sito della “Royal Aeronautical Society”. “Abbiamo addestrato il sistema: ‘Ehi, non uccidere l’operatore, è brutto. Perderai punti se lo fai.’ Quindi cosa inizia a fare? Comincia a distruggere la torre di comunicazione che l’operatore utilizza per comunicare con il drone per impedirgli di uccidere il bersaglio”. Nessuna persona reale è stata danneggiata.
Hamilton, che è un pilota collaudatore sperimentale di caccia, ha messo in guardia contro l’affidarsi troppo all’intelligenza artificiale e ha affermato che il test ha dimostrato che “non si può avere una conversazione sull’intelligenza artificiale, l’apprendimento automatico, l’autonomia se non si ha intenzione di parlare di etica e intelligenza artificiale”.
In una dichiarazione a Insider, la portavoce dell’aeronautica americana Ann Stefanek ha negato che una simile simulazione abbia avuto luogo. “Il Dipartimento dell’Aeronautica Militare non ha condotto alcuna simulazione di tali droni AI e rimane impegnato nell’uso etico e responsabile della tecnologia AI”, ha affermato Stefanek. “Sembra che i commenti del colonnello siano stati estrapolati dal contesto”.
L’esercito americano ha abbracciato l’intelligenza artificiale e recentemente l’ha utilizzata per controllare un jet da combattimento F-16. In un’intervista dello scorso anno con Defence IQ, Hamilton ha dichiarato: “l’intelligenza artificiale non è piacevole da avere, l’intelligenza artificiale non è una moda passeggera, l’intelligenza artificiale sta cambiando per sempre la nostra società e il nostro esercito. Dobbiamo affrontare un mondo in cui l’AI è già qui e sta trasformando la nostra società. L’intelligenza artificiale è anche molto fragile, cioè è facile da ingannare e/o manipolare. Dobbiamo sviluppare modi per rendere l’AI più solida e avere maggiore consapevolezza del motivo per cui il codice del software sta prendendo determinate decisioni, ciò che chiamiamo spiegabilità dell’AI”.