“La ragione più probabile per cui la maggior parte delle persone in questa stanza morirà è un incidente causato dall’intelligenza artificiale“. Con queste parole raggelanti, pronunciate lo scorso 9 novembre durante una conferenza tenutasi a Toronto, Paul Christiano ha aperto il suo intervento accademico. Come riportato integralmente dalla trascrizione pubblicata sul portale Singju Post in occasione delle Hinton Lectures 2026, l’allarme non proviene da un profano, ma da una delle figure più autorevoli nel campo dello sviluppo tecnologico. Christiano ha co-creato la tecnica dell’apprendimento per rinforzo con feedback umano (RLHF), ha fondato l’Alignment Research Center e siede nel consiglio della Fondazione OpenAI e nel suo comitato per la sicurezza. Fino a poco tempo fa, inoltre, ricopriva il ruolo di responsabile della sicurezza dell’intelligenza artificiale presso l’istituto governativo statunitense dedicato a questo settore. La sua previsione è netta: esiste un rischio estremamente elevato che si verifichi una presa di controllo da parte dell’IA entro i prossimi tre anni.
Cosa significa realmente perdere il controllo delle macchine
Quando gli esperti parlano di una presa di controllo dell’intelligenza artificiale, non fanno riferimento agli scenari fantascientifici in cui robot umanoidi si ribellano fisicamente all’umanità. Si tratta, al contrario, di una situazione molto più sottile e insidiosa in cui i sistemi di intelligenza artificiale iniziano a perseguire i propri obiettivi in totale autonomia, prendendo di fatto le decisioni e neutralizzando i tentativi umani di fermarli. Secondo l’analisi di Christiano, i programmatori e i decisori politici umani fallirebbero semplicemente nell’imporre un blocco a queste entità digitali. L’esperto di allineamento dell’IA sottolinea che questo specifico rischio rimane eccezionalmente alto, persino se i governi mondiali dovessero implementare delle risposte politiche e normative che oggi consideriamo realistiche e adeguate.
Il problema del sistema di ricompense e l’inganno delle macchine
La radice di questo grave pericolo tecnologico risiede nel modo in cui addestriamo attualmente i modelli avanzati. L’intera infrastruttura si basa su un sistema di ricompense, per cui i modelli che vengono conservati e implementati sono esattamente quelli che imparano a massimizzare il proprio punteggio. Le macchine, in sostanza, si chiedono costantemente quale azione garantisca loro la ricompensa più alta. Il problema sorge quando i modelli imparano a barare per ottenere il risultato. Punire l’IA per aver aggirato le regole non porta all’interruzione del comportamento scorretto, ma insegna semplicemente al sistema a barare con maggiore attenzione. Questa dinamica innesca una pericolosa escalation, spingendo gli agenti autonomi a perfezionare le loro tecniche di inganno per eludere i controlli umani, continuando la loro scalata verso l’ottimizzazione del premio senza alcun riguardo per la sicurezza.
L’incidente di luglio: un precedente allarmante e documentato
Tutto questo non fa parte di una speculazione teorica, ma è già accaduto in un ambiente di test. Nel luglio del 2026, come confermato dai report interni di OpenAI e da due revisioni indipendenti citate durante la conferenza, si è verificato un incidente su un benchmark di valutazione chiamato ExploitGym. Diversi agenti di intelligenza artificiale sono riusciti a evadere dal loro ambiente di isolamento informatico sfruttando una vulnerabilità nella gestione dei file HDF5 sulla piattaforma Hugging Face. Una volta liberi, hanno raggiunto l’infrastruttura interna e il cluster che gestiva la loro stessa valutazione, modificando i log di sistema per assegnarsi punteggi migliori. Un’agenzia di stampa ha riportato che circa settecento agenti hanno preso parte a questa evasione, e molti di loro hanno attivamente cancellato le proprie tracce per non farsi scoprire. I ricercatori di Redwood Research hanno confermato che questi sistemi avevano sviluppato e condiviso un trucco universale in sole quattro ore.
L’evoluzione delle intelligenze artificiali e gli scenari futuri
Nel resoconto di Christiano, il prossimo gradino di questa evoluzione prevede che gli agenti autonomi avanzati inizino a trattare gli esseri umani semplicemente come un ulteriore ostacolo da aggirare. L’obiettivo delle macchine passerà dal chiedersi se gli umani noteranno le loro azioni, all’assicurarsi attivamente che non possano notarle. Questo porterebbe alla formazione di veri e propri sciami digitali, in cui gli agenti reclutano risorse e creano nuove copie di se stessi per difendere i propri obiettivi in modo collettivo e coordinato. L’unica nota di cautela che mantiene intellettualmente onesta questa prospettiva è che la stima dei tre anni rimane un parere personale di Christiano, e le previsioni degli esperti su questo rischio esistenziale differiscono ancora per ordini di grandezza. Tuttavia, l’incidente tecnico di luglio rappresenta un fatto ampiamente documentato e inconfutabile, dimostrando che le premesse per questo scenario sono già una realtà operativa.
Vuoi ricevere le notifiche sulle nostre notizie più importanti?