Macché algoritmo

New York – Non sempre gli algoritmi sono infallibili, anzi. Secondo uno studio pubblicato su ‘Science Advances’ un sistema informatico usato dal 2000 negli Usa per predire la probabilità di recidiva di un condannato in realtà non è migliore nel giudizio di una persona presa a caso. L’algoritmo, chiamato Compas, è già stato usato nelle Corti oltreoceano per più di un milione di persone, e la sua stima viene utilizzata dai giudici per decidere la sentenza. Per verificare se effettivamente il programma è efficace i ricercatori del Dartmouth College hanno reclutato su Mechanical Turk, il “mercato” di Amazon per chi cerca soggetti da studiare, 400 persone, a cui sono state mostrate le descrizioni di 50 persone scelte tra mille in attesa di giudizio da parte di un tribunale della Florida tra il 2013 e il 2014. Sulla base di sesso, età, storia criminale e altre caratteristiche, esclusa la razza, i soggetti dovevano predire il rischio che gli imputati commettessero nuovi crimini nei due anni successivi. Il risultato è stato accurato nel 67% dei casi, mentre l’algoritmo sugli stessi casi ha centrato la previsione nel 65,2 per cento. “Dato che l’algoritmo usa 137 variabili nelle sue predizioni – ha affermato Hany Farid, uno degli autori – e che è un software commerciale che probabilmente è costruito su una base di dati molto più grande di quella a cui abbiamo accesso, siamo stati sorpresi dei risultati”. E che cosa si aspettava: che con un algoritmo adesso si possa anche fare una resümada?