Chi è responsabile quando una macchina prende una decisione autonoma? Quanto credito dobbiamo attribuire ai suoi giudizi? E quali nuove questioni emergono quando l’intelligenza artificiale smette di operare soltanto negli ambienti digitali e comincia a interagire direttamente con il mondo fisico? Sono alcune delle domande al centro del dibattito sull’IA agentica (Agentic AI), una nuova frontiera dell’intelligenza artificiale che sta trasformando il rapporto tra esseri umani e sistemi tecnologici. A differenza degli strumenti tradizionali, questi sistemi sono progettati per perseguire obiettivi, pianificare attività e scegliere autonomamente le azioni necessarie per raggiungerli, senza richiedere un intervento umano a ogni passaggio. Dagli assistenti digitali capaci di effettuare acquisti online alle piattaforme che gestiscono le richieste dei clienti, fino ai sistemi che coordinano attività lavorative, le applicazioni sono in rapida espansione. Ma insieme alle opportunità crescono anche gli interrogativi sulle responsabilità, sull’affidabilità e sulle conseguenze sociali di tecnologie sempre più autonome.
A indagare queste trasformazioni è il progetto interdipartimentale META — Social sciences and humanities for science and technology del Politecnico di Milano, realizzato con il sostegno della Fondazione Silvio Tronchetti Provera. Attraverso tre filoni di ricerca, il progetto ha approfondito le principali sfide etiche poste dall’IA agentica, concentrandosi sulla responsabilità delle azioni, sull’autorevolezza delle conoscenze prodotte dai sistemi artificiali e sulle conseguenze della loro interazione con l’ambiente fisico.
Quando una macchina sbaglia, di chi è la responsabilità?
È il primo nodo affrontato dalla ricerca di Giacomo Zanotti, che si concentra su una delle questioni più delicate legate all’autonomia dei sistemi artificiali: individuare chi debba rispondere delle loro decisioni. Si immagini, per esempio, un assistente digitale incaricato di gestire le spese di un utente che, nel tentativo di rispettare il budget disponibile, decida autonomamente di cancellare un viaggio già programmato. Una scelta non richiesta esplicitamente dalla persona, ma compiuta dal sistema sulla base dell’obiettivo assegnato.
Chi dovrebbe risponderne? L’utente che ha delegato il compito, chi ha progettato il sistema o chi lo ha messo a disposizione? La ricerca mette in evidenza una tensione fondamentale: all’aumentare dell’autonomia dell’intelligenza artificiale, diventa sempre più difficile individuare con chiarezza il soggetto responsabile delle sue azioni. La delega decisionale alle macchine, insomma, non elimina il problema della responsabilità, ma lo rende più articolato.
Quando il giudizio dell’IA diventa più autorevole di quello umano?
Un secondo ambito di indagine riguarda il rapporto tra intelligenza artificiale e produzione della conoscenza. La ricerca di Camilla Quaresmini analizza come questi sistemi possano influenzare non soltanto il modo in cui raccogliamo e organizziamo le informazioni, ma anche il valore che attribuiamo alle diverse valutazioni. Un esempio significativo arriva dalla sanità. Un sistema di IA potrebbe analizzare referti, esami e dati clinici, formulando una valutazione che rischia di essere considerata più attendibile rispetto alle osservazioni del medico o persino al racconto del paziente. Una situazione che solleva una questione cruciale: la crescente capacità di elaborazione delle macchine può tradursi in una maggiore autorevolezza dei loro giudizi, anche quando questi dovrebbero essere valutati insieme alle competenze e all’esperienza delle persone.
La ricerca individua 3 ruoli distinti dell’intelligenza artificiale nei processi di conoscenza: quello dei sistemi che organizzano le informazioni, quello degli strumenti che producono valutazioni e quello delle tecnologie che partecipano attivamente alle attività di ricerca. Un’analisi che mette in luce anche un aspetto meno evidente: mantenere il controllo umano sulle decisioni non significa necessariamente garantire che le valutazioni delle persone continuino a essere considerate più autorevoli di quelle elaborate dalle macchine.
Dagli ambienti digitali alle città: quando l’IA entra nel mondo fisico
La terza prospettiva sposta l’attenzione dalle decisioni digitali alle interazioni con la realtà materiale. A occuparsene è la ricerca di Fabio Iapaolo, che prende in esame le auto a guida autonoma, uno degli esempi più significativi della cosiddetta Physical Agentic AI. In questo caso, l’intelligenza artificiale non si limita a elaborare informazioni o suggerire comportamenti: interagisce con l’ambiente, interpreta ciò che accade intorno a sé e contribuisce a determinare azioni che hanno conseguenze dirette sulla realtà. Le decisioni di un veicolo autonomo, per esempio, non dipendono esclusivamente da un algoritmo, ma emergono dall’interazione tra sensori, sistemi di elaborazione, dispositivi di controllo e condizioni ambientali.
La ricerca mette così in discussione l’idea che una decisione possa essere ricondotta a un unico soggetto, umano o artificiale. Il processo decisionale assume piuttosto una dimensione distribuita, nella quale concorrono diversi elementi tecnologici e materiali, insieme al contesto in cui il sistema opera. Una prospettiva che invita ad ampliare la riflessione etica: non basta interrogarsi sulle singole decisioni e sulle loro conseguenze immediate, occorre considerare anche le reti di relazioni tecniche e sociali attraverso cui l’intelligenza artificiale interviene nel mondo.
“In un contesto in cui i sistemi di IA agentica trovano applicazione in ambiti sempre più diversi, dalla sanità alla mobilità, fino all’organizzazione del lavoro, le tre ricerche mostrano come la crescente autonomia dei sistemi artificiali sollevi questioni che vanno ben oltre l’automazione di compiti e decisioni” spiegano Zanotti, Quaresmini e Iapaolo. Dalla responsabilità per le azioni compiute da questi sistemi all’autorevolezza riconosciuta ai loro giudizi, fino al modo in cui le decisioni prendono forma nell’interazione tra tecnologie e ambiente fisico, il progetto di ricerca offre strumenti critici per comprendere le trasformazioni in atto e affrontarne le implicazioni etiche e sociali.


Vuoi ricevere le notifiche sulle nostre notizie più importanti?