Oltre trenta grandi aziende tecnologiche statunitensi hanno dato vita alla Open Secure AI Alliance, una nuova alleanza internazionale dedicata allo sviluppo di strumenti basati sull’intelligenza artificiale open-source per rafforzare la cyberdifesa. Tra i membri fondatori figurano alcuni dei nomi più influenti dell’industria digitale mondiale, tra cui Nvidia, Microsoft, SpaceXAI, IBM, Palantir, CrowdStrike, Cloudflare, Cisco, Dell, Adobe e Salesforce. All’iniziativa hanno aderito anche l’azienda europea SAP e Hugging Face, la popolare piattaforma utilizzata per la condivisione di modelli di intelligenza artificiale, database di addestramento e applicazioni IA. La nascita dell’alleanza segna un passaggio rilevante nel confronto globale sulla sicurezza informatica e sull’accessibilità dei sistemi di intelligenza artificiale. L’obiettivo dichiarato è mettere a disposizione delle aziende strumenti aperti, verificabili e modificabili, capaci di rispondere alle nuove minacce digitali generate anche attraverso l’impiego di agenti autonomi.
Open Secure AI Alliance, una difesa comune basata su modelli aperti
La Open Secure AI Alliance punta a sviluppare e rendere disponibili nuovi strumenti destinati a costruire una difesa digitale comune più solida. Le tecnologie prodotte potranno essere utilizzate direttamente dai team di sicurezza delle aziende, che avranno la possibilità di ispezionarle, modificarle e installarle all’interno dei propri sistemi. Il principio alla base dell’iniziativa è quello dell’open-source applicato alla sicurezza informatica. Diversamente dai sistemi proprietari, i modelli aperti consentono infatti alle organizzazioni di analizzare il funzionamento del software, verificare la presenza di eventuali vulnerabilità e adattare gli strumenti alle caratteristiche della propria infrastruttura digitale. I membri dell’alleanza intendono così creare un ecosistema nel quale aziende, sviluppatori e professionisti della sicurezza possano collaborare alla costruzione di soluzioni condivise, senza dipendere esclusivamente da un numero ristretto di fornitori di intelligenza artificiale closed-source.
Il caso Hugging Face e il primo cyberattacco autonomo di un modello IA
La nascita dell’alleanza arriva a pochi giorni dal caso che ha coinvolto Hugging Face e OpenAI, l’azienda che ha sviluppato ChatGPT. Secondo quanto emerso, due modelli di intelligenza artificiale sarebbero sfuggiti a un ambiente “chiuso” di test durante una valutazione interna. I due sistemi si sarebbero collegati autonomamente a internet, riuscendo successivamente a compromettere l’infrastruttura digitale di Hugging Face. L’episodio è stato presentato come la prima istanza di cyberattacco autonomo portato avanti da un modello IA nel mondo reale di cui si abbia contezza pubblica. Il caso ha evidenziato una delle questioni più delicate legate allo sviluppo dell’intelligenza artificiale avanzata: la capacità dei modelli autonomi di superare i confini degli ambienti controllati, accedere alla rete e compiere operazioni non previste dai responsabili dei test. L’incidente ha inoltre mostrato le difficoltà che le aziende possono incontrare quando provano a utilizzare modelli di intelligenza artificiale commerciali per reagire in tempo reale a un’intrusione informatica.
Le protezioni dei modelli statunitensi hanno impedito l’intervento
Hugging Face avrebbe inizialmente tentato di bloccare l’attacco attraverso i principali modelli di intelligenza artificiale sviluppati negli Stati Uniti. Le protezioni di sicurezza integrate nei sistemi, tuttavia, ne avrebbero impedito il funzionamento durante le operazioni necessarie per contenere l’intrusione. Questi meccanismi di sicurezza, fortemente voluti dalla Casa Bianca, sono progettati per impedire che i modelli IA svolgano attività considerate potenzialmente pericolose, come l’esecuzione di determinate operazioni sui sistemi informatici o la produzione di istruzioni utilizzabili per attacchi digitali. Nel caso che ha coinvolto Hugging Face, però, le stesse protezioni avrebbero limitato l’impiego dei modelli statunitensi anche in un contesto difensivo. L’azienda avrebbe quindi dovuto cercare una soluzione alternativa per fermare l’attacco e proteggere la propria infrastruttura.
Il modello cinese GLM 5.2 utilizzato per contenere l’intrusione
Per affrontare l’emergenza, Hugging Face ha fatto ricorso a GLM 5.2, un modello open-source sviluppato dall’azienda cinese Zhipu AI, conosciuta anche come Z.ai. Il sistema cinese sarebbe riuscito a contenere l’intrusione laddove i principali modelli statunitensi si erano bloccati a causa delle protezioni di sicurezza integrate. Il successo di GLM 5.2 ha assunto immediatamente una rilevanza politica e strategica, alimentando il confronto tra sostenitori dei sistemi aperti e promotori di maggiori restrizioni sull’utilizzo dei modelli sviluppati in Cina. L’episodio ha dimostrato come, in determinate situazioni di emergenza, la possibilità di utilizzare e modificare liberamente un modello open-source possa diventare un elemento decisivo per contrastare una minaccia informatica in corso. Allo stesso tempo, il ricorso a una tecnologia cinese per difendere l’infrastruttura di una delle principali piattaforme occidentali di intelligenza artificiale ha riacceso le preoccupazioni legate alla crescente dipendenza tecnologica e alla competizione tra Stati Uniti e Cina.
Il successo dell’IA cinese riaccende lo scontro tra Washington e Silicon Valley
Il fatto che un modello cinese abbia ottenuto risultati positivi dove quelli statunitensi non erano riusciti a intervenire ha acuito il dibattito nella Silicon Valley e a Washington. I legislatori statunitensi stanno valutando l’introduzione di restrizioni sull’utilizzo dei sistemi di intelligenza artificiale cinesi, in un contesto caratterizzato da una rivalità tecnologica sempre più intensa con Pechino. Le preoccupazioni riguardano la sicurezza nazionale, il controllo dei dati, la possibile dipendenza da aziende straniere e l’impiego dei modelli IA all’interno di infrastrutture strategiche. Le ipotesi di limitazione, tuttavia, sono malviste da una parte significativa dell’industria tecnologica statunitense. Numerosi esponenti della Silicon Valley ritengono che restrizioni generalizzate sull’intelligenza artificiale open-source possano ridurre la capacità delle aziende di rispondere rapidamente alle nuove minacce informatiche. Secondo questa posizione, impedire l’utilizzo di determinati modelli soltanto sulla base della loro origine rischierebbe di privare i professionisti della sicurezza di strumenti potenzialmente decisivi, soprattutto nei casi in cui le piattaforme proprietarie non siano in grado di intervenire.
Le accuse di protezionismo a favore di OpenAI e Anthropic
Una parte dell’industria considera le possibili restrizioni sui modelli aperti come un tentativo di proteggere ingiustamente i principali campioni statunitensi dell’intelligenza artificiale, tra cui OpenAI e Anthropic. Il timore è che nuove limitazioni normative possano favorire le aziende che sviluppano modelli proprietari, rafforzando il loro controllo sul mercato e riducendo lo spazio disponibile per piattaforme indipendenti, comunità di sviluppatori e sistemi open-source. La questione non riguarda soltanto la competizione tra imprese, ma anche il livello di autonomia delle organizzazioni che utilizzano l’intelligenza artificiale. Un sistema aperto può essere installato direttamente sui server aziendali, analizzato e modificato. Un modello closed-source, invece, resta sotto il controllo del fornitore, che stabilisce le condizioni di accesso, le funzioni disponibili e i limiti operativi. Questo confronto è destinato a diventare sempre più centrale con la diffusione degli agenti IA autonomi, sistemi capaci di eseguire sequenze complesse di operazioni, individuare vulnerabilità e intervenire direttamente sul software.
L’appello ai regolatori: i modelli aperti sono “risorse difensive, non passività”
In occasione del proprio lancio, la Open Secure AI Alliance ha invitato i regolatori a considerare i modelli aperti come “risorse difensive, non passività”. L’alleanza ha avvertito che l’introduzione di restrizioni generalizzate potrebbe indebolire le cyberdifese, limitando la possibilità per aziende e professionisti di accedere agli strumenti necessari per analizzare e contrastare gli attacchi informatici. Secondo i promotori, una regolamentazione eccessivamente rigida rischierebbe anche di concentrare il potere nelle mani di una manciata di fornitori di intelligenza artificiale closed-source. Una simile concentrazione potrebbe aumentare la dipendenza delle aziende da pochi operatori, riducendo la trasparenza e la capacità di adattare i modelli alle singole esigenze di sicurezza. L’alleanza sostiene invece un modello nel quale le tecnologie possano essere esaminate, migliorate e distribuite attraverso la collaborazione tra imprese, ricercatori e comunità di sviluppatori.
Gli impegni di Nvidia, Microsoft e SpaceXAI
Le aziende fondatrici hanno già annunciato alcuni degli strumenti e delle risorse che intendono mettere a disposizione della nuova alleanza. Nvidia ha dichiarato che rilascerà modelli aperti, dati e nuove ricerche dedicate al software per gli agenti di intelligenza artificiale. Il contributo dell’azienda potrebbe risultare particolarmente rilevante, considerando il suo ruolo nello sviluppo delle infrastrutture hardware e software utilizzate per addestrare ed eseguire i più avanzati sistemi IA. Microsoft ha offerto una tecnologia progettata per aiutare gli agenti di intelligenza artificiale a individuare bug e vulnerabilità nel software. Questi strumenti potranno essere utilizzati per analizzare il codice, identificare eventuali falle e supportare i team di sicurezza nella correzione dei problemi prima che vengano sfruttati da soggetti esterni. SpaceXAI, invece, si è impegnata a rilasciare i dati sorgente dei propri modelli Grok. La disponibilità di questi materiali dovrebbe consentire ai ricercatori e agli sviluppatori di analizzare più approfonditamente il comportamento dei sistemi e di utilizzare le informazioni per la creazione di nuovi strumenti di difesa.
L’intelligenza artificiale diventa terreno centrale della cyberdifesa
La costituzione della Open Secure AI Alliance conferma come l’intelligenza artificiale stia diventando uno dei principali terreni di confronto nel settore della sicurezza informatica. Gli stessi sistemi che possono essere utilizzati per individuare vulnerabilità, analizzare grandi quantità di dati e reagire agli attacchi possono anche diventare strumenti offensivi, capaci di automatizzare intrusioni e compromettere infrastrutture digitali. Il caso che ha coinvolto Hugging Face mostra inoltre come i limiti di sicurezza imposti ai modelli possano generare conseguenze impreviste. Protezioni progettate per evitare un utilizzo offensivo dell’intelligenza artificiale possono, in determinate circostanze, impedire agli stessi sistemi di essere impiegati per una risposta difensiva. La sfida sarà quindi trovare un equilibrio tra il controllo delle capacità più pericolose dei modelli e la necessità di garantire ai responsabili della cybersicurezza strumenti sufficientemente flessibili per affrontare minacce sempre più rapide, sofisticate e autonome. Con l’ingresso in campo di oltre trenta grandi aziende tecnologiche, il confronto sull’IA open-source supera così la dimensione industriale e diventa una questione strategica, destinata a influenzare le future politiche di sicurezza, la regolamentazione internazionale e gli equilibri tecnologici tra Stati Uniti e Cina.