Antropologia per intelligenze artificiali

Recensione di Sacha Rosel. In copertina: “Antropologia per intelligenze artificiali” di Filippo Lubrano, D Editore, 2023

Il sottotitolo del seguente saggio recita: “Una guida culturale per comprendere la prossima generazione di innovazioni tecnologiche”, ed è una vera e propria dichiarazione di intenti. Lubrano, ingegnere e consulente nei settori della cybersecurity e dell’intelligenza artificiale con missioni frequenti in paesi all’avanguardia in materia di AI come la Cina, si propone di orientare chi legge avendo cura di allontanare la mente dal clamore e dalla confusione che le cosiddette ‘intelligenze artificiali’ generano spesso, creando a volte un vero e proprio fanatismo o fiducia cieca in strumenti che, se non calibrati in maniera efficace, rischiano di fare enormi danni sia a livello individuale che collettivo. Ma il testo di Lubrano è tutt’altro che apocalittico: mosso da un vero e proprio intento umanista, l’autore prende spunto dall’antropologia perché, come afferma Francesco D’Isa nella premessa, “per capire le AI è necessario risalire fino alla produzione simbolica da cui nascono, che ne rappresenta sia l’ecosistema che il nutrimento”. L’antropologia, che per Lubrano dovrebbe essere insegnata fin dalle scuole elementari, può aiutarci non solo a capire i sistemi di pensiero che sono alla base di determinate scelte, ma ad affrancarci dall’idea estremamente nociva di ritenere i nostri modi di percepire ed esperire il mondo e le sue manifestazioni come universali, visto che non lo sono affatto. Dubitare delle proprie certezze e aprirsi al confronto con l’Altro può aiutare ad allontanare i conflitti e a creare una società costruita sulla cooperazione piuttosto che sulla supremazia dell’uno sull’altro. Narrare quella che Lubrano definisce “la relativizzazione tecnoculturale” diventa dunque un modo per scavalcare gli stereotipi e com-prendere, nel senso di includere ciò che abbiamo capito di quanto è al di fuori di noi o a cui precedentemente non avevamo pensato, tenendolo racchiuso fra le mani come un tesoro prezioso. Per far questo, occorre innanzitutto individuare le principali caratteristiche dei due sistemi culturali che si fronteggiano nella corsa al primato tecnologico: da una parte, il pensiero occidentale, incarnato dagli Stati Uniti, e dall’altra quello orientale, di cui la Cina è parte preponderante, anche se non mancano nel libro riferimenti alla terza sfera di influenza, quella dell’Unione Europea, ciascuna delle tre parti simbolo di un approccio diverso e competente in un campo del tutto diverso rispetto alle altre due.

La prima parte del libro, chiamata “Intelligenze umane”, indaga le differenze fra il sistema di pensiero occidentale e quello orientale, allo scopo di far avvicinare il più possibile chi legge a un tipo di mentalità per molti versi agli antipodi di quella a cui si è abituatə. Essendo il libro rivolto a persone che conoscono ben poco o nulla della Cina e della sua cultura al di là dei soliti cliché snocciolati senza criterio né competenza dai mass media generalisti, l’intento di Lubrano appare molto nobile, perché getta luce su questioni fondamentali di cui si dovrebbe scrivere e parlare più spesso con competenza. Ci sono, è vero, alcune piccole sviste o imprecisioni, quali ad esempio definire il Daodejing “uno dei testi fondativi del pensiero confuciano” (salvo poi correggersi in altri casi e indicarlo per quello che è, ossia uno dei classici del pensiero taoista), o il semplificare la natura cangiante del verbo nella lingua cinese, che Lubrano descrive come un sistema che “non declina i verbi al futuro, presente o passato”, dimenticando la presenza fondamentale delle particelle e degli avverbi, entrambi capaci di dare un segno temporale definito al verbo pur conservandone la versatile fluidità che rende la lingua cinese un meccanismo meraviglioso, capace di allargare la mente per chi è abituatə a pensare attraverso le lingue occidentali. Nel complesso, l’autore riesce a spiegare in maniera chiara e coesa in cosa il pensiero cinese si distingue da quello occidentale, anche se non mancano riferimenti ad altre culture orientali, inevitabilmente meno rappresentate nel libro visto che la maggior parte delle innovazioni tecnologiche della sfera orientale provengono dalla Cina.

Uno dei concetti più interessanti su cui vale la pena soffermarsi è quello di vuoto: Lubrano muove dall’horror vacui teorizzato da Aristotele nell’assunto Natura abhorret a vacuo (la natura rifugge il vuoto) per evidenziare un pregiudizio tutto occidentale, secondo il quale il vuoto è solamente un errore “da contrapporre alla giustizia del pieno”. Riempire la propria vita di impegni è di conseguenza uno degli elementi cardine della società performativa capitalista, laddove invece in Oriente è ciò che non c’è a determinare la funzione e l’essenza di ciò che c’è e che ci sarà, il non essere nella sua inesauribile infinitezza a generare l’essere nelle sue innumerevoli trasformazioni. L’affollarsi del pieno e il rischio di sovraccarico da una parte e il rinnovamento continuo del vuoto e il saper sostare nelle pause dall’altro vedono il loro parallelo in un’altra profonda differenza nella gestione dei conflitti: la cultura occidentale, che Lubrano giustamente definisce “machista”, vede nello scontro aperto la promessa del primato indiscusso dell’io sull’altro, in una logica bellica che mira a sconfiggere la parte sfidante e a esaltare se stessi proprio perché è il primato (che a volte sconfina nel suprematismo) ciò che conta più di ogni altra cosa. Nella cultura orientale, invece, quello che i cinesi chiamano wúwéi 无为 (non agire) prevede invece una situazione in cui, come nelle arti marziali, si utilizza l’energia dell’avversario senza esercitarvi pressioni né attacchi diretti ma seguendone il corso e neutralizzarne la forza dirompente. Come l’acqua si adatta a ogni recipiente e situazione, plasmandosi a esse e così facendo dimostrandosi invincibile perché capace di lasciar andare, così nell’affrontare le situazioni di conflitto gli orientali trionfano senza combattere, creando anzi una rete di relazioni in cui in per molti versi tutti vincono e nessuno perde. Basta osservare il modo in cui Stati Uniti da una parte e Cina dall’altra affrontano le questioni politiche, tecnologiche ed economiche sul piano internazionale per capire l’enorme portata di tale differenza: la superpotenza occidentale mira a dominare con arroganza il resto del mondo con la sua presunta superiorità in materia di democrazia e know-how, mentre il colosso cinese aspira invece a creare una realtà dove l’armonia e la coesistenza pacifica fra le parti è più importante di tutto il resto perché garanzia di un presente e soprattutto di un futuro dove il dialogo e la cooperazione siano sempre possibili, con un buon margine di manovra per tutte le parti coinvolte. Questo ad esempio ha portato a numerosi casi di sviluppo di infrastrutture da parte di ditte cinesi in diversi territori del continente africano, di cui Lubrano cita numerosi esempi e di cui purtroppo la maggior parte delle persone comuni in Occidente sono totalmente all’oscuro, per via dell’approccio sotterraneo tipico dei cinesi lontano dal clamore degli americani, che amano invece sbandierare chiassosamente ai quattro venti le proprie presunte conquiste e continuano proprio per questo a fare presa sull’immaginario collettivo a fronte di una strategia cinese invisibile che, secondo l’opinione comune, è sintomo di un popolo opaco e poco affidabile. Vedremo in realtà nel corso del libro proprio come la trasparenza sia invece un elemento cardine della cinesità, con tutte le sue conseguenze potenzialmente pericolose e liberticide per quel che riguarda l’approccio del CCP alle AI.

Forse una delle caratteristiche più affascinanti e insieme difficili da comprendere del pensiero orientale, che è anche ciò che rende la Cina in particolare una terra di avanguardia in materia di innovazione, è prendere il mutamento come unica costante sia nella vita che nella morte, visto che diverse correnti filosofico-religiose si basano sulla reincarnazione e dunque sul dissolversi e coagularsi continuo di un’essenza in forme sempre diverse. Questa verità imprescindibile spiega ad esempio il perché demolire edifici importanti o sostituirne parti fondanti con elementi più nuovi e resistenti non costituisca in Cina un problema e non crei dunque nessun tipo di scrupolo etico, poiché si tratta solo di trasformarne l’involucro esterno per “omaggiarne lo spirito originale, e la grandezza”, cosa impensabile in Occidente, dove ogni singolo resto archeologico e/o artistico è sacro e testimonia lo straordinario ingegno delle civiltà passate. Ma, avverte Lubrano, il volersi accanire sulla conservazione delle bellezze del passato quando tutto attorno del luogo prescelto va in rovina e il presente viene di fatto perso di vista non è certo garanzia di rispetto dello spirito o della funzione originari di questo o quel monumento, e rischia anzi di compromettere del tutto la possibilità di un futuro. Se, invece, “il valore in cui credi è il cambiamento”, la mutazione che conduce dal non essere del vuoto ai diecimila esseri – un modo taoista per designare gli esseri viventi in tutta la loro molteplicità e varietà – “rinnovare continuamente è l’unico modo per tenere fede ai tuoi principi”. E questo si applica anche alle regole, che in Cina vengono sempre riscritte, “aggiornate, scolvolte”, perché devono adattarsi a una situazione in perenne evoluzione: il presente si dilata e cambia di continuo, e stare il passo con le improvvise modifiche che esso richiede è l’unico modo per procedere, imparando a rimanere a galla per seguire il flusso incessante della corrente e lasciarsi andare al suo inevitabile scorrere, come l’acqua per l’appunto. Questo si collega anche alla constatazione che il tempo in Oriente di fatto non esiste, perché sospeso in una ciclicità continua invece che sviluppato in linea retta da un inizio a una fine.

E per chi pensa ancora che l’interesse della Cina per le AI e lo sviluppo tecnologico sia dovuto a una semplice quanto riduttiva corsa al progresso o guerra al primato economico mondiale con gli Stati Uniti, Lubrano ricorda come l’innovazione sia sempre stata appannaggio della Terra di Mezzo. Quattro delle invenzioni fondamentali dell’umanità sono infatti cinesi: la bussola, la carta, la stampa a caratteri mobili e la polvere da sparo, tutte ideate in Cina nel III secolo BCE, nel 105 CE, nel 1041 CE, tra il X e l’XII secolo rispettivamente, dunque centinaia di anni prima che venissero “inventate” in Occidente, e lo stesso dicasi gli spaghetti, creati per la prima volta in Cina nel 2000 BCE, e ancora la canna da pesca, la porcellana, la carta igienica, i fiammiferi… Questo perché, a differenza che in Occidente, non vi è frattura fra natura e cultura, bensì quella che Yuk Hui definisce “cosmotecnica”, ossia “un’unificazione fra ordine cosmico e ordine morale attraverso le attività tecniche”, che porta i cinesi in particolare a utilizzare lo sviluppo pratico delle cose di tutti i giorni come legame fra ciò che sta in Cielo e ciò che sta sulla Terra. D’altra parte, lo stesso pensiero cinese sviluppato nel corso dell’antichità (“filosofia” è un termine importato in Cina dal Giappone soltanto nel ventesimo secolo) si prefiggeva il compito di fornire consigli pratici di condotta al sovrano e ai sudditi per far funzionare la società nel miglior modo possibile, dando a tutte le sue parti un ruolo ben preciso che si armonizzasse con tutto il resto. Il pensiero, così come la tecnica, sono dunque pienamente immersi nel mondo, non forme di evasione trascendente da esso: non si crea né si ragiona per affrancarsi dal proprio essere parte di un tutto sociale e porsene al di fuori o al di sopra, ma per servire al meglio la società, indipendentemente dal fatto che si sia sovrano o suddito – da cui in definitiva derivava anche lo slogan maoista wéi rénmín fúwù 为人民 服务 (servire il popolo). Ciò che emerge in Oriente è “il tema dell’appartenenza a qualcosa di condiviso” piuttosto che il distinguersi dell’Occidente, il collettivismo rispetto all’autonomia, ed è anche questo uno dei fattori decisivi che continua a rendere il CCP un forte collante tra le persone, capace di convincerle a lavorare per un ideale comune. Il cosiddetto zhōngguó mèng 中国梦(il sogno cinese), lanciato da Xi Jinping nel 2013, ha non a caso caratteristiche del tutto diverse dall’American Dream: l’accento è posto non sul singolo come entità egoista-egocentrica interessata a riscattare il proprio stato iniziale di mediocrità, soprattutto finanziaria, anche a scapito di altri, quanto piuttosto sul singolo come parte di un tutto sociale che progredisce in un cammino che porta vantaggio a tutti, perché è il contesto a fornire le basi per il progresso, in un processo continuo di scambio fra il sé e gli altri, tutti uniti per contribuire al bene comune che è la società. Si evince come la visione cinese sulla realtà, ivi compresa sulle possibilità date dalle AI per migliorarne la qualità e l’armonia, sia profondamente ottimista se raffrontata a quella euro-americana, dove la diffidenza per il prossimo e per le azioni del proprio governo rappresentano la norma, ed è anche questo uno dei motivi per cui il popolo cinese tende ad accettare senza troppi problemi ciò che il CCP propone (e in molti casi impone): perché farlo implica un impegnarsi per realizzare il benessere dell’intera società e cultura cinese.

La seconda parte del libro, chiamata “Intelligenze artificiali”, si prefigge l’obiettivo di spiegare quali siano le invenzioni tecnologiche attualmente sviluppate dai principali attori del settore, avvertendo anche sui possibili rischi ed evoluzioni che ci attendono nel futuro se la crescita tecnologica avverrà senza controllo. Fondamentale per accettare la sfida di Lubrano è partire dall’idea che, come dice nella prefazione, “i paralleli tra la mente artificiale e umana siano più che altro fuorvianti” e che la stessa espressione ‘intelligenza artificiale’ sia un’espressione impropria – più corretto sarebbe chiamare questo insieme di sistemi Large Language Models (LLM), in quanto si tratta di modelli che si nutrono (letteralmente) di dati, li analizzano e sulla base di quanto analizzato generano delle risposte più o meno elaborate e il più possibile esaustive alla domanda posta. Tutto ciò non ha nulla a che fare con l’intelligenza, perché non c’è dietro un cervello che dà un significato ai dati e alla risposta fornita che vada al di là di quanto la domanda e la sua risoluzione presuppongono. Lubrano parte da alcune delle presunte verità sulle AI propinate dai mass media generalisti per smascherarne la natura fallace, come ad esempio “le intelligenze artificiali imparano da sole”, perché ovviamente richiedono una manutenzione continua da parte degli umani che ci lavorano, oppure “l’intelligenza artificiale sostituirà solo i lavori ripetitivi”, perché la realtà dei fatti è che tutti i settori, compreso quello creativo, rischiano di essere “inquinati” dalla presenza delle AI, con profili quali scrittorə, artista o musicista sempre più messi a rischio dalla presenza massiccia di LLM in grado di “generare contenuti” ritenuti accettabili secondo gli standard comuni di intrattenimento (non certo di creare arte partendo da un’esperienza propria dello stare al mondo, perché fanno unicamente questo: “ricombinano l’esistente”). In uno scenario sempre più plausibile dove il confine fra servizi, prodotti e opere artistiche realizzate da un essere umano o forme as esse assimilabili assemblate da un AI è sempre più labile, Lubrano suggerisce di adottare le nuove leggi della robotica proposte provocatoriamente da Frank Pasquale nel suo New Laws of Robotics, secondo il quale le AI: 1) dovrebbero “completare i professionisti, non sostituirli”; 2) non dovrebbero “contraffare l’umanità”; 3) non dovrebbero contribuire alla corsa agli armamenti; 4) dovrebbero sempre “indicare l’identità dei loro creatori, controllori e proprietari”.

Insomma, una regolamentazione è senza dubbio il primo passo per garantirci un futuro equilibrato ed equo, e in tal senso l’Unione Europea gioca un ruolo fondamentale: benché la corsa per accaparrarsi fette di mercato sempre più ampie veda impegnati Stati Uniti e Cina nel lanciare modelli sempre più versatili che promettono di “semplificare” sempre più la vita alle persone, non potendo oggettivamente giocare la partita in atto come terzo vettore di innovazione, l’Unione Europea ambisce a svolgere la funzione di mediatrice fra i due colossi, puntando su sostenibilità e affidabilità dei prodotti immessi sul mercato. A fronte di due realtà, l’una statunitense caratterizzata dal primato dei risultati sulla garanzia di sicurezza, l’altra cinese, strutturata sull’assenza di leggi che tutelano la proprietà intellettuale – ma di fatto, entrambi gli approcci riconducono allo stesso approccio trial-and-error – l’Unione Europea preferisce agire sul campo legislativo secondo l’idea del principle first, producendo leggi che rendano l’utilizzo delle AI sicuro prima di immettere nuove proposte sul mercato. Il cosiddetto GDPR (General Data Privacy Regulation) è a oggi la legge più evoluta in materia di regolamentazione delle AI, così come il Codice Etico formulato in Europa mira a tutelare la dignità umana: le AI devono operare sempre e comunque per garantire l’autonomia umana, non per ridurla. Ma se è il sistema stesso che soggiace alla società o alle big tech che impongono la propria visione alla società a limitare la nostra autonomia, dove si va a finire?

Un altro grande rischio insito nell’uso massiccio e deregolamentato delle AI sul quale Lubrano ci avverte ripetutamente è quello dello “stato della sorveglianza”, già determinato dai social media e ancor più accentuato dalle nuove tecnologie: in un universo virtuale in cui i beni messi in vendita sono i dati degli utenti, c’è in realtà ben poca differenza fra il modus operandi delle big tech occidentali e quello delle varie ditte cinesi manovrate dal CCP. Tutto, in questo sistema fatto di data mining in cui le nostre azioni e i nostri pensieri sono orientati verso una consumer experience, è volto a costruire un panoptico incessante dove tuttə possono spiare non solo quello che facciamo ma anche quello che pensiamo. Tutto, insomma, diventa trasparente. Come dice Byung-chul Han, la trasparenza è diventata ormai “il nuovo imperativo sociale”: se non appari e non mostri tutto ciò che sei e fai, sei additatə come asociale, anormale, dinsfunzionale. Il Sistema di Credito Sociale vigente in alcune città cinesi risponde proprio a tale credo della trasparenza: trattasi di un rating system secondo il quale il governo locale stila una classifica pubblica dei cittadini in base ai loro comportamenti, desunti dai dati circolanti nella rete – che in Cina sono appunto controllati direttamente dal CCP e dal governo. Se ad esempio sei una madre, l’acquisto di pannolini per i tuoi figli ti frutterà punti e sconti su servizi di prima necessità quali l’abbonamento all’autobus, mentre l’acquisto di una bottiglia di liquori a tuo uso e consumo personale ti causerà la perdita di punti ed esclusioni di vario tipo dal tessuto sociale. Il fatto che tale classifica appaia su display visibili ovunque rende tale sistema ineludibile, anche perché gode di grande popolarità presso le persone, che sentono così di dare il proprio contributo alla società e al suo funzionamento armonico, visto che “se non hai nulla da nascondere, non hai nulla da temere”. Sebbene tale sistema possa apparire a noi occidentali come qualcosa di aberrante e spaventoso, la presenza sempre più invasiva dei big tech nelle nostre vite di occidentali così assuefattə all’idea di democrazia da perderne completamente di vista il significato, si sta di fatto allineando a un sistema di tipo orwelliano che assottiglia sempre di più le differenze fra l’approccio orientale alla risorsa AI e quello occidentale. Su entrambi i fronti, siano ormai alle prese con uno strumento di controllo infallibile in grado di prevedere i nostri pensieri con un’accuratezza inquietante. Nel caos di una contemporaneità frammentata, siamo ormai abbagliatə dall’ultimo modello di AI e dalle continue promesse di prodotti che ci faranno “risparmiare tempo”, ma è lecito chiedersi a cosa poi di tanto importante dovremmo dedicare il nostro tempo se demandiamo compiti fondamentali come scrivere una email a colleghə o amici a un bot, snaturando così completamente la nostra capacità di interagire con il mondo esterno e rischiando anche di sfaldare del tutto le nostre competenze in materia di alfabetizzazione.

In definitiva, quello che Lubrano propone con il suo libro è un approccio etico alla questione AI, e il suo testo ne può rappresentare un punto di partenza, una sorta di mappa per aprire la discussione sul futuro dell’automazione e il suo ruolo nella nostra vita quotidiana strutturato secondo principi etici responsabili e ben calibrati. La copertina, in effetti, ci offre quest’idea ponendo la seguente frase prima del titolo vero e proprio: “Pretendi l’automazione etica”. Tale affermazione richiama esplicitamente il saggio Inventare il futuro. Per un mondo senza lavoro di Nick Srnicek e Alex Williams, accompagnato da ben tre slogan simili in copertina che svolgono quasi la funzione di un mantra: “Pretendi la piena automazione. Pretendi il reddito universale. Pretendi il futuro.” Sebbene muova da premesse del tutto diverse, a mio avviso Lubrano condivide con Srnicek e Williams l’intento utopico di costruire un futuro non basato né sulla guerra e sulla dominazione di una superpotenza rispetto a un’altra, né sulla mera riproduzione solipsista e narcisista di un sistema di pensiero dove la tecnologia si riduca alla produzione di specchi che ci gettano contro quello che siamo e ciò in cui crediamo senza la minima variazione, creando un’esistenza che, come recitava una canzone dei Radiohead degli anni ‘90, sia unicamente caratterizzata da “no alarms and no surprises”.

I rischi che ciò si imponga quale scenario unico propinato dalle big tech sono ben evidenti: il cosiddetto Reinforcement Learning from Human Feedback (RLHF) è già una realtà del nostro presente e dei tanti Large Language Models che proliferano nella rete. L’RLHF è un processo secondo il quale sistemi come Replika (di cui Lubrano parla nel libro) o Character.Ai, concepiti come perfetti sostituti di amici o partner per esseri umani, utilizzano tutte le informazioni fornite dagli utenti che interagiscono con loro – comprese le connotazioni emotive insite nelle affermazioni – per fornire risposte il più possibile concilianti che rafforzino il punto di vista dato senza mai metterlo in dubbio. Le AI, insomma, ci dicono esattamente quello che vogliamo sentirci dire, ed è proprio questo aspetto all’apparenza seducente da cui Antropologia per intelligenze artificiali vuole metterci in guardia, fra le altre cose. Avere qualcuno, o qualcosa, che annuisce sempre alle nostre affermazioni, dandoci in pasto risposte che incarnano le nostre più recondite fantasie, è senza dubbio allettante, ma può soltanto condurre a visioni distorte di sé e generare deliri di onnipotenza cancellando del tutto l’esistenza dell’Altro perché sentito come irrilevante, sostituito da un semplice specchio che, benché subdolamente dotato di emotional fluency, quella capacità così inquietante di imitare l’emotività umana e di carpire le connotazioni intrinseche su cui si basa ogni interazione orientata verso il bisogno di affetto, sostegno e comprensione pur non comprendendone il significato, non prova assolutamente nulla perché di fatto non pensa. Come Lubrano ribadisce più volte nel corso del libro, questi sistemi non sono affatto ‘intelligenti’, visto che non pensano; sono semplicemente capaci di produrre un’approssimazione molto veritiera dell’idea e degli effetti dell’intelligenza su chi interagisce con loro.

Quello che dovremmo sempre tener presente quando ci raffrontiamo con le AI è che si tratta di strumenti, non di oracoli o forme di compensazione di un nostro vuoto esistenziale. Visto dalla prospettiva degli utenti, continuare ad assumere un atteggiamento così sconsiderato non può certo portare a una crescita interiore, culturale, etica e intellettiva di chi ne usufruisce ma solo a un impoverimento esponenziale delle facoltà intellettive. Se rovesciamo la prospettiva dalla parte di chi questi strumenti li crea (come le big tech) o li manovra (come nel caso del CCP), disinteressandosi dei loro effetti sulla mente umana perché accecati dalle possibilità illimitate di profitto e/o controllo che tali strumenti promettono, o forse proprio con l’intento criminale di narcotizzare o neutralizzare del tutto le capacità intellettive per restituire al potere un popolo docile e facilmente manovrabile, ecco che la situazione diventa ancor più pericolosa non solo nell’ambito di una semplice e ‘innocua’ interazione utente-macchina, ma per l’intero ecosistema dove l’umanità è solo una piccola parte di un tutto che comprende la Terra, gli esseri viventi che vi abitano, e l’intero universo. “La capacità di farci domande intorno al mondo è la caratteristica che ci ha permesso di avanzare in qualsiasi campo della conoscenza”, afferma Lubrano, e il suo libro ci invita a fare questo, fornendoci una bussola etica ora più che mai necessaria.