Un algoritmo ti giudicherà «Minority Report» è realtà

Un ragazzo fermato perché sosta in un luogo classificato sospetto da un software, un imputato condannato a sei anni perché ritenuto a rischio recidiva da un robot. E gli Stati Uniti si dividono

Un imputato condannato a una lunga pena detentiva da un algoritmo (il cui funzionamento è ignoto tanto alla sua difesa quanto allo stesso collegio giudicante). Cittadini sottoposti a controlli di polizia molto severi —e a volte anche rudi — da forze dell’ordine che usano sempre più tecniche informatiche predittive. Non siamo ancora al giudice-robot o al poliziotto-robocop ma in America lo sviluppo dell’intelligenza artificiale e del machine learning — i computer che imparano dall’esperienza, cioè dal database delle indagini e dei processi — sta cambiando anche il modo di operare di magistrati e sceriffi.

L’amministrazione della giustizia per via informatica è contestata dagli avvocati difensori e dalle associazioni per i diritti civili che nell’ambizione di impedire il crimine prevedendolo percepiscono un indebolimento dei diritti degli imputati. Col rischio di dare legittimità ai pregiudizi di molti agenti nei confronti delle minoranze nere e ispaniche. Ma il ricorso agli algoritmi va ugualmente diffondendosi nei tri- bunali e nelle polizie. E il motivo è semplice: risparmio. Il giudice non cede (per ora) al robot la decisione sulla colpevolezza di un imputato, ma la fissazione dell’entità della pena a volte sì perché l’intelligenza artificiale esegue in un attimo la faticosa e costosa ricerca della casistica e dei precedenti del condannato.

In questo modo, però, alla fine tocca allo strumento informatico giudicare il rischio che un condannato torni a delinquere e, quindi, fissare durata della pena e condizioni per concedere la libertà su cauzione. Quanto alla polizia, facendosi dire da un computer in quali luoghi ci sono più probabilità che vengano commessi crimini, effettua una sorveglianza più efficace: colloca le sue poche pattuglie nei luoghi strategici.

« Minority Report, il film di fantascienza di Steven Spielberg del 2002, adesso è realtà», dice l’ex capo della polizia di New York, William Bratton. In effetti da Los Angeles a Nashville, da Atlanta a Houston, sono ormai decine le polizie d’America che fanno ricorso a queste tecniche informatiche predittive. Lo stesso Bratton co- minciò a stilare mappe del crimine negli anni Ottanta, quando alla Casa Bianca c’era Ronald Reagan. E negli anni Novanta introdusse CompStat, il primo strumento informatico per la riduzione del crimine. Ma è negli ultimi anni che la fiducia nella tecnologia ha portato a un uso sempre più spregiudicato di questi strumenti. Fino ad alcuni casi recenti denunciati come violazioni dei diritti civili.

La vicenda che ha fatto più discutere si è verificata in Wisconsin, dove l’imputato in una sparatoria senza vittime è stato condannato a una lunga pena detentiva perché giudicato ad alto rischio di ripetizione del crimine. Giudizio di un algoritmo, non di un magistrato: è stato lo stesso giudice che gli ha dato sei anni di carcere a sostenere che l’imputato, Eric Loomis, è considerato «un potenziale recidivo» sulla base delle analisi di Compas, un software giudiziario usato da molti tribunali americani. Loomis ha fatto ricorso contro l’uso di questa tecnologia. Intanto perché è uno strumento di analisi non sviluppato all’interno del sistema giudiziario Usa ma acquistato da un’azienda privata, la