Non sempre gli algoritmi sono infallibili, anzi. Come spiega uno studio pubblicato su Science Advances, un sistema informatico usato dal 2000 negli Usa per predire la probabilità di recidiva di un condannato in realtà non è migliore nel giudizio di una persona presa a caso. L’algoritmo, chiamato Compas, è già stato usato nelle corti oltreoceano per oltre un milione di persone, e la sua stima viene utilizzata dai giudici per decidere la sentenza.
Per verificare se effettivamente il programma è efficace – spiegano i ricercatori del Dartmouth College – hanno reclutato su Mechanical Turk, il ‘mercato’ di Amazon per chi cerca soggetti da studiare, 400 persone, a cui sono state mostrate le descrizioni di 50 persone scelte tra mille in attesa di giudizio da parte di un tribunale della Florida tra il 2013 e il 2014. Sulla base di sesso, età, storia criminale e altre caratteristiche, esclusa la razza, i soggetti dovevano predire il rischio che gli imputati commettessero nuovi crimini nei due anni successivi. Il risultato è stato accurato nel 67% dei casi, mentre l’algoritmo sugli stessi casi ha centrato la previsione nel 65,2%.
“Dato che l’algoritmo usa 137 variabili nelle sue predizioni – afferma Hany Farid, uno degli autori – e che è un software commerciale che probabilmente è costruito su una base di dati molto più grande di quella a cui abbiamo accesso, siamo stati sorpresi dei risultati”. L’algoritmo era già stato oggetto di accuse in passato, con alcuni scienziati che avevano affermato che le stime avevano dei pregiudizi razziali. La compagnia produttrice ha respinto le accuse, affermando che lo studio del Dartmouth College è “fuorviante”.
Vuoi ricevere le notifiche sulle nostre notizie più importanti?