Gli ALGORITMI ci controllano, ma chi controlla gli algoritmi?

Che cosa possiamo fare se a farci perdere un lavoro o a negarci il mutuo non è una persona ma un algoritmo, ovvero un calcolo basato sull’elaborazione dei dati? In teoria i numeri non mentono, non hanno simpatie e sono neutrali. C’è un’esperta che non la pensa così: «Il problema della matematica è che la gente si fida di lei e ne ha paura, quindi non la mette mai in discussione», spiega Cathy O’Neil, studiosa americana di big data e di statistica, autrice del libro Armi di distruzione matematica (Giunti, pagg. 352, ¤ 18), in uscita il 6 settembre. O’Neil ha lavorato in finanza e nell’e-commerce, due campi in cui la nostra vita è sempre più controllata dagli algoritmi costruiti sull’enorme quantità di dati raccolti su di noi. «Alcuni sono innocui: se quello di Netflix ci suggerisce un brutto film, avremo al massimo sprecato un paio d’ore, ma ci sono algoritmi che stanno rovinando la vita delle persone, su vasta scala e silenziosamente». Nel sistema giudiziario americano, un software valuta il rischio di recidiva e da questo calcolo può arrivare una pena più o meno lunga. In Italia le graduatorie dei docenti sono state decise da un algoritmo, molto contestato. E ancora, questi dati sono alla base delle scelte delle aziende su chi assumere, delle banche su chi è affidabile. Per O’Neil (che ha anche militato nel movimento Occupy Wall Street) l’invito è metterli sempre in discussione: «I dati possono discriminare, essere razzisti e sessisti, riflettono i pregiudizi delle persone. Devono aumentare gli standard di sicurezza degli algoritmi, non devono essere segreti e devono essere appellabili. È il primo passo».