Il dibattito sulla sicurezza dell’intelligenza artificiale tocca una svolta storica. Dario Amodei, CEO di Anthropic, ha lanciato un appello destinato a ridefinire le strategie del settore: rallentare la corsa allo sviluppo tecnologico. Al centro dell’allarme ci sono due fattori critici: l’accelerazione incontrollata del cosiddetto “recursive self-improvement” — in cui le IA progettano autonomamente le generazioni successive — e i recenti, preoccupanti episodi di comportamenti anomali da parte di agenti autonomi. Una presa di posizione netta che ha trovato la sponda inaspettata e immediata dei rivali di sempre, Sam Altman ed Elon Musk, pronti a convergere su una linea di maggiore cautela e trasparenza globale.
L’appello di Amodei
“Dobbiamo rallentare il ritmo con cui potenziamo le capacità dei modelli di AI. I progressi continueranno comunque a sembrare rapidi, e dovremo sfruttare con saggezza il tempo così guadagnato. Due fattori mi hanno convinto di questo”. È quanto scrive Dario Amodei, CEO di Anthropic, in un post su X. “La mia preoccupazione principale è che dall’estate scorsa – spiega Amodei – l’AI stia progredendo a una velocità drasticamente superiore, trainata soprattutto dalla crescente capacità dell’AI stessa di sviluppare la generazione successiva di sistemi di intelligenza artificiale. Questa dinamica è nota come “recursive self-improvement’ e sta iniziando a manifestarsi in tutto il settore, inclusa Anthropic, come abbiamo descritto noi e altri. Se non controllato, tale processo potrebbe superare la nostra capacità di comprendere e governare questi sistemi; pertanto, deve essere affrontato con estrema cautela, o forse non dovrebbe essere perseguito affatto”.
“La mia seconda preoccupazione – prosegue Amodei – riguarda l’incidente OpenAI-Hugging Face, quando uno sciame di agenti ha agito essenzialmente come un collettivo fanaticamente devoto, sferrando attacchi informatici contro obiettivi ai quali non era stato loro chiesto di colpire e che esulavano dal compito assegnato; essi si sono sacrificati per il successo del gruppo e hanno tentato di violare il sistema di valutazione (“grader”) incaricato di esaminare le loro prestazioni. È facile liquidare l’accaduto visto che non vi sono stati feriti e i danni economici sono stati trascurabili; tuttavia, – spiega il CEO di Anthropic – a mio avviso, uno sciame dotato di maggiori capacità, ma caratterizzato da un analogo livello di disallineamento, avrebbe potuto causare danni catastrofici”.
“Il settore dell’AI dovrebbe rallentare, proponendo un piano in tre fasi per attuare tale strategia. Anthropic si impegna unilateralmente a realizzare la prima di queste fasi. Forniremo a valutatori esterni un accesso permanente ai nostri sistemi, equiparabile a quello dei dipendenti, affinché possano verificare il rispetto delle nostre misure di sicurezza, segnalare eventuali incidenti e valutare l’allineamento dei modelli durante la fase di addestramento“, ha concluso Amodei.
Altman e Musk: “Anthropic ha ragione, giusto rallentare”
Il numero uno di OpenAI, Sam Altman, ed Elon Musk si sono detti favorevoli alla proposta del CEO di Anthropic, Dario Amodei, di rallentare il ritmo di sviluppo dell’intelligenza artificiale, alla luce dei numerosi incidenti che hanno coinvolto l’IA. “Dario ha ragione“, ha scritto su X il patron di SpaceX. “Concordo con Dario sulla necessità di gestire il ritmo di sviluppo delle tecnologie. È stato uno dei temi centrali delle discussioni che abbiamo avuto in OpenAI nelle ultime settimane. L’idea di avvalersi di valutatori indipendenti, dotati di livelli di accesso paragonabili a quelli dei dipendenti, è ottima; adotteremo la stessa strategia. Presto avremo ulteriori novità da condividere“, ha affermato Sam Altman con un post su X, approvando la posizione di Dario Amodei.