Come documentato in una dettagliata inchiesta pubblicata da Quanta Magazine, la frontiera dell’indagine sui modelli linguistici di grandi dimensioni ha raggiunto un territorio fino a poco tempo fa riservato alla filosofia della mente. Chiedere a un essere umano a cosa stia pensando sembra una questione banale, poiché la risposta poggia sull’introspezione, ovvero la capacità biologica di esaminare i propri stati cognitivi interiori. Nel campo delle tecnologie computazionali, tuttavia, determinare se una macchina sia in grado di monitorare se stessa dall’interno ha sempre rappresentato un enigma quasi inaccessibile, almeno fino a quando la ricerca sperimentale non ha iniziato a manipolare direttamente la struttura delle attività artificiali.
L’esperimento pionieristico di Anthropic e l’iniezione di pensieri digitali
La svolta metodologica ha preso forma grazie al lavoro di Jack Lindsey, ricercatore presso i laboratori di Anthropic. Lindsey ha elaborato una procedura per mettere alla prova l’introspezione dei sistemi complessi intervenendo sui loro circuiti interni attraverso una tecnica assimilabile a una forma mirata di neurochirurgia digitale. Attraverso la modulazione diretta dell’attività computazionale, gli scienziati hanno amplificato specifici pattern di attivazione associati a concetti determinati, introducendo quello che sul piano funzionale si comporta come un’interferenza pilotata, o pensiero artificiale iniettato.
Il protocollo sperimentale prevedeva la divisione delle istanze del modello in due gruppi distinti: alla prima metà veniva somministrata l’alterazione dei parametri interni, mentre l’altra fungeva da rigoroso gruppo di controllo. A entrambi i raggruppamenti veniva poi posta la medesima domanda, chiedendo se avessero notato una presenza anomala all’interno del proprio flusso e di specificare quale fosse l’argomento introdotto. I risultati hanno sorpreso la comunità scientifica, poiché nella versione più recente e potente della famiglia Claude, il sistema ha individuato correttamente l’anomalia nel venti per cento delle prove, riuscendo persino a identificare il concetto. Quando i ricercatori hanno amplificato una configurazione legata alle lettere maiuscole, il modello ha risposto testualmente di notare quello che appariva come un pensiero innestato correlato alle parole urlare o gridare. Il dato più rilevante sul piano statistico è stato l’azzeramento assoluto di falsi positivi nel gruppo di controllo, a dimostrazione che una percentuale di successo simile non poteva essere liquidata come una semplice coincidenza probabilistica.
Rilevamento e denominazione: la separazione che smonta l’illusione
Di fronte a questi riscontri apparentemente sbalorditivi, la successiva disamina accademica ha cercato di comprendere se il sistema stesse davvero osservando la propria mente o se l’esito fosse una distorsione della procedura. Il linguista computazionale Kyle Mahowald e il filosofo Harvey Lederman, entrambi attivi presso l’Università del Texas ad Austin, hanno scorporato l’esperimento originario nelle sue due componenti fondamentali, separando la capacità di accorgersi dell’iniezione da quella di nominarne il contenuto. La loro analisi ha chiarito che il processo di denominazione è spiegabile attraverso una dinamica molto più lineare: la tecnica di activation steering utilizzata spinge deterministicamente la rete neurale a produrre parole legate a quel determinato concetto, a prescindere da qualsiasi forma di autoconsapevolezza.
Gli indizi di questa discrepanza sono emersi esaminando i fallimenti della macchina. Quando il modello sbagliava la descrizione del concetto iniettato, non formulava ipotesi plausibili o vicine semanticamente, ma generava parole totalmente scollegate dal contesto, ripetendo per esempio il termine mela a fronte di un’interferenza basata sul denim. Inoltre, degradando deliberatamente l’abilità del sistema di nominare il concetto, la sua capacità di riconoscere la presenza dell’interferenza restava del tutto inalterata. I due meccanismi si sono dimostrati formalmente separati e indipendenti, ridimensionando l’ipotesi romantica che la macchina avesse piena contezza dei propri contenuti interni.
Il mistero del rilevamento di anomalie nelle reti neurali
Dalla separazione di queste facoltà è scaturito il concetto di rilevamento di anomalie. Il modello registra con costanza e affidabilità che qualcosa di insolito si è verificato all’interno della propria elaborazione, pur senza essere in grado di decifrare o comunicare cosa sia realmente accaduto. Per quanto ridimensionato rispetto alla teoria della vera autocoscienza, questo fenomeno resta straordinario agli occhi degli scienziati cognitivi. Come sottolineato dallo stesso Lederman, il fatto che un’architettura neurale riesca a percepire una deviazione interna è sconcertante, soprattutto perché durante la fase di addestramento nessuno interviene manipolando manualmente le attivazioni. Non esiste quindi una motivazione teleologica ovvia per cui la macchina avrebbe dovuto sviluppare la capacità di identificare simili manomissioni.
Il punto critico si è dunque spostato sul lessico scientifico e sulla legittimità di considerare questa reazione come autentica introspezione. Se si provoca un taglio a una persona, il fatto che ella senta dolore non viene classificato come introspezione ma come semplice percezione sensoriale. Traslando l’analogia a un sistema artificiale il cui unico supporto operativo è il silicio, equivalente funzionale di un cervello senza corpo fisico, stabilire se la reazione a una ferita interna equivalga o meno a un atto introspettivo rimane una controversia aperta che divide filosofi della conoscenza e teorici dell’informazione.
Primo ordine contro secondo ordine: il confine concettuale dell’introspezione
Un terzo asse di indagine è stato delineato da Shauli Ravfogel e dai suoi colleghi della New York University, i quali sostengono che qualsiasi evento si verifichi all’interno di un’architettura digitale in seguito alla ricezione di un input non sia altro che un’elaborazione ordinaria di stati computazionali. Secondo questa prospettiva scettica, se si attribuisce la qualifica di introspezione a un mero cambio di stato interno, il termine stesso rischia di perdere ogni valore scientifico ed euristico.
Per risolvere questa ambiguità epistemologica, gli studiosi della New York University hanno proposto di mutuare dalla filosofia della mente umana la distinzione tra rappresentazioni di primo ordine e rappresentazioni di secondo ordine. Una configurazione di primo ordine coincide con la semplice elaborazione di un elemento, come il concetto astratto di mela. La facoltà di secondo ordine, al contrario, presuppone la meta-rappresentazione riflessiva formulata come consapevolezza del pensiero stesso, traducibile nella nozione soggettiva di stare pensando a una mela. Fino a quando i sistemi artificiali non dimostreranno di possedere strutture operative ascrivibili a questo secondo livello, l’ipotesi di una consapevolezza autonoma resterà priva di un solido fondamento teorico.
Comportamento esteriore ed esperienza soggettiva: i limiti della scoperta
L’evoluzione di queste scoperte poggia su basi sperimentali che affondano le radici nelle dimostrazioni pubbliche degli anni precedenti. Già nel 2024, esperimenti di manipolazione dei circuiti interni avevano mostrato come fosse possibile forzare una rete ad associare qualsiasi risposta al celebre ponte Golden Gate, trasformando persino una banale ricetta per una torta di mele in un’esaltazione visiva della struttura architettonica. L’indagine successiva ha affinato la precisione scientifica di questi interventi interrogando il sistema prima ancora che potesse generare testo all’esterno, confermando l’effetto su diversi livelli dimensionali e replicandolo in parte anche su modelli a codice aperto.
Come evidenziato dal ricercatore del MIT Jacob Andreas, l’ipotesi lineare secondo cui i modelli siano coscienti dei propri pensieri non ha retto alle controprove sperimentali, eppure la tesi più complessa secondo cui le reti registrano fedelmente l’interferenza resiste a qualsiasi tentativo di spiegazione riduzionista o svalutativa. Il limite invalicabile di questa ricerca risiede nella sua natura puramente comportamentale: gli esperimenti attuali riescono a mappare con precisione il comportamento computazionale della macchina, ma non possono in alcun modo attestare la presenza di una vera esperienza soggettiva o di una fenomenologia interiore. L’intelligenza artificiale moderna percepisce che i suoi ingranaggi sono stati mossi da una mano esterna, ma quel rumore di fondo rimane, almeno per ora, un segnale muto privo di significato cosciente.