Copiamo l’aviazione

La tecnologia non è magia Le regole?

L’intelligenza artificiale? Non è una novità. Anzi: è una falsa etichetta per definire processi già esistenti, utile al controllo sociale in un mondo post-razionale. Ecco la definizione che Eleanor Saitta, esperta di sicurezza e privacy, designer e relatrice per istituzioni tra cui le università di Harvard e di Yale, ha dato dell’intelligenza artificiale in un simposio, lo scorso 12 dicembre, al Castello di Rivoli-Museo d’arte contemporanea, dove è in corso fino al 30 giugno la mostra The City of Broken Windows («La città dalle finestre rotte»), dedicata alle tecnologie di sorveglianza.

«Intelligenza artificiale — spiega Saitta a “la Lettura” — è una dicitura che ha acquisito sempre più importanza e che deriva dal linguaggio del marketing per descrivere tutta una serie di processi di abbinamento statistico. Oggi però è usata in modo così pervasivo perché permette di deviare l’attenzione delle persone spostandola dalla consapevolezza della raccolta dati massiva e di rendere i processi statistici quasi magici». In altri termini: quando sentiamo parlare di intelligenza associata a un computer, un oggetto inanimato, rimaniamo ammaliati. Così, piuttosto che preoccuparci per la quantità di informazioni che forniamo, tendiamo a dire solo «wow!». E a considerare l’universo tecnologico un posto fantastico, dove macchine possedute compiono azioni straordinarie. L’intelligenza artificiale, insomma, ci appare soprannaturale e la metafora della magia funziona perché semplifica, rendendolo divertente, il freddo rapporto con le macchine. In cambio di una vita più facile, dove Google traduce testi in altre lingue e le informazioni sugli spostamenti in città migliorano i percorsi dei mezzi, cediamo privacy e intimità.

È in questo contesto che avviene il fenomeno che Saitta chiama la «morte dell’Illuminismo»: non solo l’intelligenza artificiale rende il mondo magico — e per questo post-razionale — ma per la prima volta nella storia dell’umanità cediamo all’idea che la comprensione del reale possa sfuggirci. L’universo ci appare nella sua imperscrutabile complessità e in tempo reale scopriamo fenomeni nuovi. Inoltre, anche grazie al confronto con i sistemi informatici, comprendiamo che tutto è correlato, che le nostre azioni hanno un impatto globale. Saitta parla di Age of systems («Età dei sistemi»), nella quale abbiamo capito che economia, ambiente, società sono collegati e al loro interno tutto è interconnesso. Un comportamento ambiguo o nocivo può portare gravi conseguenze, proprio come accade in informatica, producendo errori di sistema, fallimenti a cascata. Un esempio? Il cambiamento climatico. O l’impiego sottopagato nella gigonomics, il modello economico che si fonda sul lavoro a chiamata, spesso tramite app. Insomma, stretti tra tecniche di sorveglianza di massa, morte della razionalità e possibilità di compiere sbagli fatali, ci attacchiamo a un’ancora di salvezza. L’etica. Non solo quella individuale, di chi progetta i software. A proposito di raccomandazioni europee e di linee guida etiche sull’intelligenza artificiale, Saitta commenta: «La normativa è un fattore chiave per preservare i diritti di base in un’epoca di crescente automatismo sociale». E se il Gdpr — il regolamento generale sulla protezione dei dati personali — è un buon risultato, c’è anche un altro modello cui ispirarsi: l’aviazione, conclude Saitta. Il sistema normativo sulla sicurezza dei passeggeri nei trasporti aerei potrebbe essere un buon esempio da imitare.