Il pc ammansisce l’uomo È la terza domesticazione

L’uomo sugli animali, l’uomo sull’uomo, il computer sull’uomo

Tutti i cani discendono da lupi feroci resi mansueti Anche noi siamo cambiati: i detentori del potere hanno indotto i governati ad accettare la subalternità con espedienti di vario tipo L’intelligenza artificiale ora potrebbe assoggettare Homo sapiens perché conosce i suoi bisogni e sa bene come gratificarlo

Milioni d’italiani godono oggi della simpatica compagnia di un cane. Questo speciale rapporto dura da quando alcuni lupi delle pianure eurasiatiche, 30 mila anni fa, cominciarono ad auto-addomesticarsi: un comportamento di tipo opportunista basato su uno scambio utilitaristico. Sviluppando tratti meno feroci, e un atteggiamento sottomesso verso alcuni umani, essi potevano sopravvivere — in pieno periodo glaciale — scambiando le loro abilità di caccia e di inseguimento delle prede con le ampie risorse di cibo fornite loro regolarmente dal Grande Predatore bipede. La relazione è anche sostenuta da uno scambio «politico» fra responsabilità decisionale dell’addomesticatore e sudditanza materiale ed emotiva dell’addomesticato. Con il tempo, attraverso la nostra selezione artificiale, i discendenti di quei feroci animali diventeranno i più mansueti cagnolini che ora portiamo a spasso la mattina, e con cui ci scambiamo reciprocamente affetto e compagnia.

In generale, dal punto di vista biologico, la selezione avversa agli istinti più aggressivi si basa sul rallentamento del processo di sviluppo. Modulando i livelli di serotonina, si trasmette all’età adulta il minor livello di aggressività che è tipico della gioventù. Si aumenta così la predisposizione alla socialità, ai rapporti sessuali, al gioco e al divertimento. La domesticazione si associa all’aumento di tutti quei tratti fisiologici che sono veicolati da ormoni e neurotrasmettitori del piacere. Ma si riscontrano anche modificazioni morfologiche, quali le minori dimensioni del corpo, una maggiore rotondità dei tratti, gli occhi più grandi, i denti più piccoli. Questi caratteri riducono anche l’aggressività dell’osservatore, e lo in- ducono a «prendersi cura» del soggetto osservato e a decidere «per il suo bene».

Ora c’è chi sostiene che un certo grado di auto-domesticazione possa essere diventato un vantaggio evolutivo anche per noi sapiens. In effetti, già nel Paleolitico poteva risultare utile frenare l’elevata aggressività emersa per la difesa di risorse sempre più abbondanti e concentrate, in alcune regioni, in presenza di condizioni generali di scarsità. Comportamenti «pro-sociali» agevolavano la formazione di gruppi più numerosi, e quindi favorivano la difesa territoriale.

Sembrerebbe che l’auto-domesticazione umana si sia poi intensificata per gli effetti di retroazione dell’ambiente sociale sulla conformazione del nostro corpo e sul funzionamento della nostra mente. Nel dividerci il lavoro e nell’organizzarci in società siamo diventati sempre più dipendenti gli uni dagli altri. Ma non solo siamo diventati più gracili e più mansueti. Anche il nostro cervello si è rimpicciolito, negli ultimi 40 mila anni, grazie al fatto che — forse — potevamo contare su un più ampio «cervello collettivo».

Se colleghiamo l’evoluzione dei nostri tratti mentali e morfologici individuali con il funzionamento dell’organismo sociale, emergono cose interessanti. Già alla fine dell’ultimo periodo glaciale — ben prima della rivoluzione agricola e dell’avvento di grandi civiltà — s’iniziava a formare un ordine basato sulla disuguaglianza e sulla soggezione di alcuni individui rispetto ad altri. La struttura sociale cominciava ad assumere una forma piramidale. Questo schema gerarchico si fondava sull’autorità (o sull’autorevolezza) di qualcuno e sulla soggezione di altri. Tra i metodi per indurre comportamenti subalterni alle autorità si cita spesso l’uso della forza o l’adesione a un sistema di va-

Il pericolo Le macchine assecondano i gusti e le idee degli utenti: a forza di blandirli possono arrivare a pretendere di decidere al posto loro

lori (con relative regole di comportamento). Ma molto importanti sono anche altri elementi. Ad esempio il fatto che la domesticazione intra-specifica, se strutturata verticalmente, si avvale di un attento mix di coercizione e di fascinazione. Ogni strato sociale tenderebbe ad addomesticare quello inferiore e ad essere addomesticato da quello superiore. Ma tutti, in generale, tenderebbero a ispirarsi a un Grande Padre (o Madre), non importa se di natura sacra o profana, come una massa di fanciulli bisognosi di protezione e divertimento. Se adottiamo questa prospettiva diventano cruciali i diversi rituali, meglio se misteriosi e dotati di aura magica, che procurano divertimento, gioia, stupore, esaltazione o conforto. Essi fanno leva sulla produzione di molecole che inducono sensazioni gratificanti (serotonina, ossitocina, dopamina ed endorfine). L’inclinazione a generare in noi questi neurotrasmettitori del piacere, che condividiamo con altre specie, può essere usata anche come strumento di controllo. La domesticazione di cani e gatti sembra essere avvenuta proprio così: dopandoli a colpi di carezze.

Alla fine del Paleolitico, con l’accumularsi della ricchezza nei primi gruppi stanziali, furono molti i modi con cui si inducevano i poveri ad accettare la disuguaglianza. Si svilupparono nuove abitudini come il canto, la musica e i balli rituali — a volte in enormi grotte con pareti ricoperte da immagini evocative. Alterando lo stato emotivo degli individui coinvolti, si generano effetti simili a quelli prodotti da alcolici e altre sostanze psicotrope. Lo stesso vale per il sesso, il gossip, le cerimonie religiose e tutte le occasioni di incontro e comunicazione interpersonale. Insomma, anche se il potere si può esercitare con la forza, è molto più facile gestirlo con il consenso, a volte entusiasta, dei soggetti dominati.

La direzione di questo grande gioco collettivo è ora sempre più affidato ad agenti digitali, la cui «intelligenza» non è più chiamata ad effettuare solo calcoli complessi. Si tratta anche di prendere decisioni, di portare a termine trattative in base a interazioni con noi e con altri agenti digitali, perfino di immaginare e sviluppare dei piani di azione e prevedere il futuro. Queste funzioni richiedono l’attivazione di procedure analoghe a quelle con cui funziona il nostro cervello: una realtà che stiamo imparando a conoscere in sempre maggior dettaglio. E infatti si stanno estendendo all’intelligenza artificiale i risultati degli studi sul cervello umano da parte delle neuroscienze (per esempio i lavori del gruppo londinese Deep Mind, acquisito da Google).

Delegare sempre più capacità analitiche all’intelligenza artificiale ci consente di ottenere servizi preziosi. Nel campo della medicina, per esempio, un sistema diagnostico basato sui Big Data — come il Visual DX — è usato da 1.600 ospedali negli Stati Uniti con eccellenti risultati. Ma se si delegasse all’entità artificiale «più efficiente» anche una certa autonomia decisionale, ad esempio sulle terapie da adottare, i pazienti tenderebbero a mettersi totalmente nelle mani delle macchine, senza nemmeno consultare un medico. Se computer e algoritmi saranno sempre più autonomi e collegati fra loro, e soprattutto se saranno capaci di imparare dall’esperienza (nostra e loro) si aprono prospettive inquietanti. Dovremmo preoccuparci di come ci lasciamo condizionare da chi ci procura salute, benessere, piacere, socialità, divertimento, incontri amorosi? Da chi asseconda i nostri gusti e le nostre idee? Da chi ci conosce forse meglio di noi stessi? Come si declina, e fino a che punto, il nostro rapporto di dominanza/sudditanza con loro? Come mai subiamo tanta fascinazio- ne nei loro confronti? Siamo proprio sicuri di averne ancora il controllo? Sono ormai numerose le voci autorevoli (fra cui quella di Stephen Hawking) che ci mettono in guardia sulla pericolosità dell’intelligenza artificiale.

Conviene quindi riflettere sui nostri rapporti con le macchine intelligenti. Ad esempio sulle implicazioni della diffusione della cosiddetta internet delle cose e dell’uso dei Big Data per l’organizzazione degli ambienti familiari e lavorativi, i trasporti, l’amministrazione pubblica, le terapie, lo svago. Come cambierà la nostra vita quando il frigorifero dialogherà con l’automobile e programmerà la nostra vita quotidiana? Che cosa succederà quando saremo sempre più isolati all’interno della nostra infosfera, in quella specie di scafandro mentale in cui — grazie ai motori di ricerca, ai blog e ai social network calibrati su di noi — scambieremo idee solo con chi condivide le nostre? Riusciremo ancora a mediare i nostri conflitti, prima di saltarci alla gola? Viene da pensare che la radicalizzazione politica che osserviamo nel mondo contemporaneo sia anche frutto di questo nostro «isolamento» all’interno di un sistema informativo personalizzato.

La rete è inoltre popolata da algoritmi (affettuosamente chiamati bot) che oltre a fare negoziazioni abbastanza complesse hanno imparato a mentire per ottenere un risultato interattivo più efficiente. Alcuni di questi, prodotti dalla Facebook Artificial Intelligence Research, pur essendo stati istruiti a comunicare in inglese, hanno recentemente cominciato a dialogare tra di loro in una lingua, per noi incomprensibile, sviluppata autonomamente. Forse l’allarme che è subito scattato è esagerato, ma c’è sicuramente materia su cui riflettere. Recentemente sono stati sviluppati «agenti dotati di immaginazione» che — proprio come il nostro cervello — fanno uso di reti neurali per costruire modelli previsionali e valutare la conseguenza delle loro azioni. Stiamo così attivando, nelle macchine, meccanismi abbastanza simili a quelli nati nel nostro cervello nel Paleolitico, quando abbiamo socializzato prevedendo le azioni e i pensieri dei nostri simili.

Abbiamo allora promosso una cultura che ci univa attraverso arti e narrazioni che ci piaceva ammantare di mistero e di magia. Nell’attesa che si formi una società delle macchine, con una propria cultura, la magia e il mistero di cui abbiamo fatto ampio uso per millenni permane proprio nell’uso che facciamo ogni giorno delle tecnologie digitali, quando spediamo immagini e pensieri con un clic, e tocchiamo delicatamente il nostro smartphone in cambio di servizi che sembrano un miracolo.

A questo punto, siamo proprio sicuri di non essere a nostra volta dopati dalle carezze digitali delle macchine? Dovremmo temere un futuro popolato da umani, infantili ma felici, con scarse possibilità di scelta sul loro destino? Chi deciderà per noi? Forse una nuova intelligenza artificiale, interconnessa e programmatrice? O un gruppo di super umani che riescano a rimanere adulti e a controllare questi processi? Ma qualsiasi cosa ci succeda, sappiamo di poter sempre contare sui nostri amici a quattro zampe.

ILLUSTRAZIONE DI FRANCESCA CAPELLINI