La nuova oligarchia

Oggi siamo senz’altro molto più ricchi rispetto ai nostri antenati. Anche i ceti più disagiati delle società occidentali godono di un tenore di vita più elevato rispetto a quanto avveniva tre secoli fa; viviamo più a lungo e in modo decisamente più sano, e disponiamo di comodità che qualche secolo addietro non erano nemmeno immaginabili. Va da sé che la scienza e la tecnologia sono parte vitale di questa storia e dovranno essere il fondamento di qualsiasi progresso futuro in termini di miglioramenti condivisi. Eppure, la diffusa prosperità che abbiamo raggiunto non è stata il risultato di uno sviluppo automatico e garantito dal progresso tecnologico. Piuttosto, se nel tempo è stata acquisito un progresso condiviso, questo è avvenuto perché – e solo quando – la direzione degli sviluppi tecnologici e l’approccio della società alla suddivisione dei loro benefici non hanno più servito gli interessi di una élite ristretta. In altre parole, oggi siamo beneficiari del progresso soprattutto perché chi ci ha preceduto ha fatto sì che quel progresso fosse a disposizione di un maggior numero di persone.

 

TECNOLOGIA, ELITE E SOCIETÀ. Nella Gran Bretagna dell’Ottocento la competizione elettorale, l’ascesa dei sindacati e la legislazione a tutela dei diritti dei lavoratori hanno trasformato le modalità di organizzazione della produzione e di determinazione dei salari. Insieme all’arrivo di una nuova ondata di innovazioni dagli Stati Uniti, tutto ciò ha anche impresso una nuova direzione alla tecnologia, incentrata sull’aumento della produttività dei lavoratori piuttosto che sulla semplice sostituzione dei macchinari alle mansioni che questi svolgevano in precedenza o sulla messa in atto di nuovi modi per controllarli. Nel corso del secolo successivo, poi, quella stessa tecnologia si è diffusa in tutta l’Europa occidentale e quindi nel resto del mondo.

E se oggi gran parte delle persone in tutto il globo sta meglio dei nostri antenati, è perché quei cittadini e quei lavoratori delle prime società industriali si organizzarono, misero in discussione le scelte dettate dalle élite in materia di tecnologia e condizioni di lavoro, riuscirono a imporre una più equa condivisione dei vantaggi derivanti dai progressi tecnici.

Ebbene, oggi anche noi dobbiamo seguire quella strada.

La buona notizia è che abbiamo a disposizione strumenti incredibili, come la risonanza magnetica, i vaccini a mRNA, i robot industriali, Internet, un’enorme potenza di calcolo e un’imponente quantità di dati su cose che un tempo non potevamo nemmeno misurare. Dunque, possiamo usare tutte queste innovazioni per risolvere i problemi reali, ma solo se le capacità a nostra disposizione saranno finalizzate ad aiutare le persone. Purtroppo, al momento non è questa la direzione che abbiamo intrapreso.

Malgrado ciò che ci insegna la storia, la narrazione oggi predominante va sempre più somigliando a quella che prevaleva in Gran Bretagna 250 anni fa. Di fatto, viviamo in un’epoca più ciecamente ottimista e più elitaria riguardo alla tecnologia rispetto all’epoca di Jeremy Bentham, Adam Smith e Edmund Burke.

Il fatto è che il progresso non è mai automatico. Non a caso, il “progresso” attuale arricchisce ancora una volta un piccolo gruppo di imprenditori e investitori, mentre una gran parte delle persone viene esautorata e ne trae ben pochi benefici.

 

Leggi anche: Intelligenza Artificiale, automazione e concentrazione di potere

 

Una nuova visione della tecnologia, che sia più inclusiva, può emergere solo se a cambiare saranno le basi del potere sociale. E questo richiede, come già nel XIX secolo, lo sviluppo di teorie e argomentazioni contrarie a quelle dominanti e di organizzazioni in grado di opporsi alle opinioni diffuse tra i più. È vero che oggi contrapporsi alla visione prevalente e sottrarre la direzione della tecnologia al controllo di una ristretta élite può rivelarsi più difficile di quanto sia stato in Gran Bretagna e in America nel XIX secolo. Ma non è meno essenziale.

 

LE RAGIONI DEL TECNO-OTTIMISMO. L’essere umano ha compiuto progressi enormi nell’ambito del sapere e vi è ampio spazio per costruire un benessere condiviso basato su queste fondamenta scientifiche, ovviamente se inizieremo a compiere scelte diverse in merito alla direzione del progresso.

I tecno-ottimisti hanno ragione su un punto: le tecnologie digitali hanno già rivoluzionato i processi scientifici. La conoscenza accumulata dall’umanità è ora a portata di mano. Oggi gli scienziati hanno accesso a incredibili strumenti di misurazione: dai microscopi a forza atomica alla risonanza magnetica e al brain imaging. E dispongono della potenza di calcolo per elaborare enormi quantità di dati con una velocità e un’accuratezza che anche solo trent’anni fa sarebbero sembrate pura fantasia.

Consideriamo che l’indagine scientifica è cumulativa: gli innovatori si basano l’uno sul lavoro dell’altro. Un tempo, invece, la conoscenza si diffondeva lentamente. Nel 1600 studiosi quali Galileo Galilei, Keplero, Isaac Newton, Leibniz o Robert Hooke condividevano le proprie scoperte scientifiche mediante missive che impiegavano settimane, se non mesi, per giungere a destinazione. Il sistema eliocentrico di Niccolò Copernico, che collocava correttamente la Terra nell’orbita del sole, fu sviluppato durante il primo decennio del XVI secolo. Nel 1514 Copernico aveva già messo per iscritto la sua teoria, ma la sua opera più letta, Sulle rivoluzioni dei corpi celesti, fu pubblicata solo nel 1543. E dal 1514 ci volle quasi un secolo perché Keplero e Galileo mettessero a frutto il lavoro di Copernico e più di due secoli perché quelle idee fossero ampiamente accettate.

Oggi le scoperte scientifiche viaggiano alla velocità della luce, soprattutto in presenza di una necessità impellente. Di norma lo sviluppo di un vaccino richiede anni di lavoro, ma all’inizio del 2020 l’azienda statunitense Moderna ha creato un vaccino solo quarantadue giorni dopo aver ricevuto la sequenza (identificata poco prima) del virus SARS-Co-V-2. L’intero processo di sviluppo, sperimentazione e autorizzazione è durato meno di un anno, con il risultato di mettere a disposizione una protezione straordinariamente sicura ed efficace contro le gravi patologie causate dal COVID. Le barriere che si frappongono alla condivisione delle idee e alla diffusione del know-how tecnico non sono mai state così esili e la forza cumulativa della scienza non è mai stata così vigorosa.

 

LA VISIONE MODELLA LA TECNOLOGIA. Tuttavia, per sfruttare questi progressi e far sì che contribuiscano a migliorare le condizioni di miliardi di persone in tutto il mondo, occorre riorientare la tecnologia. Il primo passo deve essere quello di mettere in discussione il cieco tecno-ottimismo della nostra epoca e sviluppare nuovi modi per utilizzare la scienza e l’innovazione.

La buona e, al contempo, la cattiva notizia è che l’uso della conoscenza e della scienza dipende dalla visione: cioè dal modo in cui gli esseri umani pensano a come trasformare la conoscenza stessa in tecniche e metodi mirati a risolvere problemi specifici. La visione modella le nostre scelte poiché specifica quali sono le nostre aspirazioni, di quali mezzi ci serviremo per metterle in atto, quali opzioni alternative prenderemo in considerazione e quali scarteremo, nonché come percepiamo i costi e i benefici delle nostre azioni. In breve, la visione è il modo in cui immaginiamo le tecnologie e i loro vantaggi, ma anche i potenziali danni.

 

Leggi anche: Un percorso a ostacoli verso il segreto dell’intelligenza

 

La cattiva notizia è che, anche nelle migliori circostanze, la visione di coloro che detengono il potere ha un peso sproporzionato su ciò che facciamo con gli strumenti a nostra disposizione e sulla direzione dell’innovazione. Gli esiti della tecnologia risultano dunque allineati ai loro interessi e alle loro convinzioni e spesso si rivelano onerosi per gli altri. La buona notizia, nondimeno, è che le scelte e le visioni possono cambiare.

Una visione condivisa tra gli innovatori è essenziale per l’accumulo di conoscenza e anche per il modo in cui viene utilizzata la tecnologia. Si prenda, ad esempio, il motore a vapore, un’invenzione che ha trasformato prima l’Europa e poi l’economia mondiale. Le rapide innovazioni del principio del XVIII secolo si sono basate tutte su una visione comune del problema da risolvere: in questo caso, eseguire un lavoro meccanico sfruttando il calore. Thomas Newcomen costruì il primo motore a vapore ampiamente utilizzato attorno al 1712. Mezzo secolo dopo, James Watt e il socio Matthew Boulton migliorarono il progetto di Newcomen separando il condensatore e producendo un motore più efficace e di maggiore successo commerciale.

La prospettiva condivisa è evidente in ciò che questi innovatori cercavano di ottenere e in che modo: utilizzare il vapore per spingere un pistone avanti e indietro all’interno di un cilindro per generare lavoro, e quindi aumentare l’efficienza di tali motori perché fossero utilizzati in una varietà di applicazioni differenti. La visione condivisa non solo consentì loro di apprendere gli uni dagli altri, ma fece sì che affrontassero il problema seguendo percorsi analoghi. In sintesi, si concentrarono prevalentemente sul cosiddetto motore atmosferico, in cui il vapore condensato crea il vuoto all’interno del cilindro, consentendo alla pressione atmosferica di spingere il pistone. Inoltre, scartarono collettivamente altre possibilità, come i motori a vapore ad alta pressione descritti per la prima volta da Jacob Leupold nel 1720. Tuttavia, contrariamente all’opinione dominante nella comunità scientifica del XVIII secolo, i motori ad alta pressione divennero lo standard nel secolo seguente.

La visione di quei primi innovatori del motore a vapore fu nutrita anche da una forte motivazione che li spinse a ignorare gli aspetti negativi che si riversarono, tra gli altri, sui bambini molto piccoli mandati a lavorare in condizioni disumane nelle miniere di carbone, che adesso disponevano di un drenaggio migliore alimentato proprio a vapore.

 

COSA DETERMINA LA VISIONE PREVALENTE? Quanto detto per i motori a vapore è vero per tutte le tecnologie. Queste non esistono indipendentemente da una visione di fondo. Cerchiamo i modi per risolvere i problemi che abbiamo di fronte (questa è visione); immaginiamo quali strumenti potrebbero aiutarci in tale sforzo (anche questa è visione); e tra le molteplici strade percorribili, ci concentriamo su una manciata di esse (altro aspetto della visione). Quindi tentiamo approcci alternativi, sperimentando e innovando sulla base della conoscenza acquisita. In tale processo, vi saranno per forza di cose delle battute d’arresto, costi e quasi sicuramente conseguenze involontarie, compresa la potenziale sofferenza di alcune persone. Se poi ci scoraggiamo o addirittura decidiamo che la cosa più responsabile da fare sia abbandonare i nostri sogni, ebbene si tratta di un altro aspetto della visione.

Ma cos’è che determina quale visione tecnologica prevarrà? Anche se le scelte da operare riguardano il modo migliore di utilizzare il nostro sapere collettivo, i fattori decisivi non sono solo tecnici o di pura ingegneria. In questo contesto la scelta è fondamentalmente una questione di potere, perché scelte diverse avvantaggiano persone diverse. Chi ha più potere ha maggiori probabilità di persuadere gli altri della propria prospettiva, che il più delle volte è allineata ai propri interessi. E chi riesce a trasformare le proprie idee in una visione condivisa, guadagna ulteriore potere e posizione sociale.

Non lasciatevi ingannare dalle colossali conquiste tecnologiche dell’umanità. Le visioni condivise possono intrappolarci facilmente. Le aziende fanno gli investimenti che il management ritiene migliori per i loro profitti. Se un’azienda installa, ad esempio, nuovi computer, ciò dovrebbe significare che i maggiori ricavi generati compenseranno ampiamente i costi. Ma in un mondo in cui sono le visioni condivise a guidare le nostre azioni, non c’è alcuna garanzia che ciò sia vero. Se tutti si convincono che le tecnologie dell’intelligenza artificiale sono necessarie, allora le aziende investiranno nell’intelligenza artificiale, anche laddove esistono modi alternativi di organizzare la produzione che magari potrebbero risultare più vantaggiosi. Analogamente, se la maggior parte dei ricercatori lavora su un determinato percorso per far progredire l’intelligenza artificiale, altri potrebbero seguirne fedelmente, se non ciecamente, le orme.

 

L’ESEMPIO DELL’ELETTRICITÀ. Questi problemi si fanno ancora più rilevanti quando si tratta di tecnologie “generiche”, quali l’elettricità o i computer. Le tecnologie multiuso, ossia di uso generale, costituiscono una piattaforma sulla quale è possibile costruire una miriade di applicazioni che generano potenziali benefici – ma talvolta anche costi – per molti settori e gruppi di persone. Ma queste piattaforme consentono anche traiettorie di sviluppo assai diverse.

L’elettricità, ad esempio, non era solo una fonte energetica più economica, ma aprì la strada anche a nuovi prodotti, come radio, elettrodomestici, cinema e TV. Introdusse nuovi macchinari elettrici. Permise una riorganizzazione radicale delle fabbriche, con un’illuminazione migliore, fonti di energia dedicate per i singoli macchinari e l’introduzione di nuove mansioni tecniche e di precisione nel processo produttivo. I progressi della produzione basata sull’elettricità aumentarono la domanda di materie prime e di altri fattori produttivi industriali, come i prodotti chimici e i combustibili fossili, nonché di servizi di vendita al dettaglio e di trasporto. Ma lanciarono altresì nuovi prodotti, tra i quali plastiche innovative, coloranti, metalli e veicoli, che in seguito furono utilizzati in altri settori. Purtroppo, l’elettricità aprì la strada anche a livelli di inquinamento molto più elevati nella produzione manifatturiera.

Sebbene le tecnologie di uso generale possano essere sviluppate con modalità differenti, quando a imporsi è una certa visione condivisa diventa difficile liberarsi dalla sua presa ed esplorare traiettorie diverse che magari potrebbero rivelarsi socialmente più vantaggiose. La gran parte di chi subisce determinate decisioni non viene consultata. E questo crea una tendenza naturale alla distorsione sociale della direzione del progresso, a favore dei decision-maker influenti e con visioni dominanti e contro coloro che non hanno voce.

 

UNA VISIONE PIÙ INCLUSIVA È POSSIBILE. Eppure, c’è un motivo per essere fiduciosi: la storia ci insegna, infatti, che una visione più inclusiva, che ascolti un insieme più ampio di voci e riconosca gli effetti delle innovazioni su ogni categoria sociale, è possibile. La prosperità condivisa è più probabile quando vi sono contropoteri capaci di responsabilizzare imprenditori e leader tecnologici, spingendo metodi di produzione e innovazione in una direzione che sia più favorevole ai lavoratori.

Tuttavia, le visioni inclusive non evitano automaticamente questioni spinose, come il dubbio che i benefici di alcuni giustifichino i costi subiti da altri. Ma assicurano che le decisioni sociali prendano in considerazione tutte le loro conseguenze, senza mettere a tacere chi non ne trae un profitto.

Che a imporsi sia una visione egoistica e ristretta o una più inclusiva è senz’altro una scelta. E il risultato dipenderà dalla presenza di forze capaci di contrapporsi alla visione dominante e dalla capacità di coloro che non sono nei corridoi del potere di organizzarsi e riuscire a far sentire la propria voce. Se vogliamo evitare di rimanere intrappolati nelle visioni di élite potenti, dobbiamo trovare il modo di controbilanciare il potere con fonti di potere alternative e di opporre all’egoismo una visione più inclusiva. Sfortunatamente, questo approccio sta diventando più difficoltoso nell’era dell’intelligenza artificiale.

 

LA RIVOLUZIONE DELL’IA. La vita dei primi esseri umani fu trasformata dal fuoco. A Swartkrans, una grotta in Sudafrica, gli scavi degli strati più antichi hanno portato alla luce reperti di antiche ossa di ominidi divorati da predatori, grandi felini o orsi. A questi animali gli esseri umani dovevano sembrare una facile preda. Il buio delle caverne era particolarmente pericoloso e i nostri antenati cercavano di evitarlo. Poi, però, all’interno di quelle stesse caverne iniziano a comparire i primi resti del fuoco, con uno strato di carbone risalente a circa un milione di anni fa. A partire da quel momento i reperti archeologici mostrano una completa inversione di tendenza: le ossa ritrovate sono per lo più di animali. In altre parole, il controllo del fuoco diede agli ominidi la capacità di prendere e mantenere il possesso delle caverne, ribaltando la situazione a sfavore degli altri predatori.

Nessun’altra tecnologia negli ultimi diecimila anni si avvicina neanche lontanamente a questo forte impatto su tutto ciò che facciamo e su chi siamo. Adesso, tuttavia, c’è un’altra candidata, almeno secondo i suoi fautori: l’intelligenza artificiale. È Sundar Pichai, CEO di Google, ad affermarlo in modo esplicito: “L’IA è probabilmente la cosa più importante cui l’umanità abbia mai lavorato. A mio giudizio, è un qualcosa di ancora più radicale dell’elettricità o del fuoco”.

“IA” è il nome che prende la branca dell’informatica che si occupa di sviluppare macchine “intelligenti”, ovvero macchine e algoritmi (istruzioni per risolvere i problemi) dotati di capacità di alto livello. Le moderne macchine intelligenti svolgono compiti che un paio di decenni fa molti avrebbero ritenuto impossibili. Ne sono un esempio il software di riconoscimento facciale, i motori di ricerca che indovinano ciò che si vuole trovare e i cosiddetti sistemi di raccomandazione che abbinano l’utente ai prodotti che più probabilmente apprezzerà o, quantomeno, acquisterà. Molti sistemi utilizzano già oggi una qualche forma di elaborazione del linguaggio naturale per interfacciarsi con il linguaggio umano oppure tra richieste scritte e computer. Siri di Apple e il motore di ricerca di Google sono esempi di sistemi basati sull’intelligenza artificiale e utilizzati ogni giorno in tutto il mondo.

 

Leggi anche: Come pensano le macchine

 

I sostenitori dell’IA mettono in rilievo anche le impressionanti facoltà di cui essa dispone. I programmi di intelligenza artificiale sono in grado di riconoscere migliaia di oggetti e immagini diverse e di fornire traduzioni basilari in più di cento lingue; aiutano a identificare i tumori; a volte possono effettuare investimenti meglio degli analisti finanziari più esperti; offrono un valido aiuto ad avvocati e assistenti legali nel setacciare migliaia di documenti per trovare i precedenti rilevanti per un certo caso giudiziario; possono trasformare le istruzioni impartite nel linguaggio naturale in un codice informatico; e possono persino comporre nuova musica che suoni come un’opera di Johann Sebastian Bach o scrivere (noiosi) articoli di giornale.

Nel 2016 la società di intelligenza artificiale DeepMind ha rilasciato il software AlphaGo, che ha battuto uno dei due migliori giocatori di Go al mondo. Un anno dopo ha fatto seguito AlphaZero, un programma di scacchi capace di sconfiggere qualsiasi maestro di scacchi. Da rilevare che si trattava di un programma autodidatta che ha raggiunto un livello sovrumano dopo sole nove ore di gioco contro se stesso.

 

I RISCHI SOCIALI DELL’IA. Sulla scia di questi trionfi è ormai opinione diffusa che l’intelligenza artificiale influenzerà – in meglio – ogni singolo aspetto della nostra vita. Renderà l’umanità assai più prospera, più sana e in grado di raggiungere altri obiettivi pregevoli. Come recita il sottotitolo di un recente libro sull’argomento, “l’intelligenza artificiale trasformerà tutto”. Oppure, nelle parole di Kai-Fu Lee, ex presidente di Google China, “l’intelligenza artificiale potrebbe rivelarsi la tecnologia più trasformativa nella storia dell’umanità”.

Ma cosa succederebbe se ci fosse un piccolo neo in questo “miracolo”? Se l’IA sconvolgesse radicalmente il mercato del lavoro, grazie al quale la gran parte di noi si guadagna da vivere, ampliando le disuguaglianze retributive e occupazionali? Oppure se l’impatto principale non fosse quello di aumentare la produttività, ma di trasferire potere e prosperità non alla gente comune, ma a chi controlla i dati immagazzinati e compie le scelte aziendali più importanti? Se nel suo percorso di crescita l’IA dovesse impoverire miliardi di persone nei Paesi in via di sviluppo? O se si spingesse a rafforzare i pregiudizi esistenti, ad esempio quelli relativi al colore della pelle? Cosa succederebbe se distruggesse le istituzioni democratiche?

Sono sempre di più le prove a sostegno della possibilità di questi rischi. L’IA sembra avviata lungo una traiettoria che moltiplicherà le disuguaglianze, non solo nei Paesi industrializzati, ma in tutto il mondo. Alimentata dalla raccolta massiccia di dati da parte di aziende tecnologiche e governi autoritari, l’IA sta già soffocando la democrazia e rafforzando l’autocrazia. E non è tutto, perché se da un lato incide a fondo sull’economia, dall’altro fa ben poco per migliorare la nostra capacità produttiva. In altre parole, il recente entusiasmo per l’IA sembra un’accentuazione dello stesso ottimismo già manifestato nei confronti della tecnologia, a prescindere che si tratti di automazione oppure di controllo o esautorazione della gente comune, come già avvenuto con il mondo digitale.

Eppure, tali preoccupazioni non vengono prese in considerazione dalla maggior parte dei leader tecnologici. Al contrario, ci viene ripetuto di continuo che l’IA avrà solo effetti benefici. E dovesse creare problemi, saranno solo a breve termine, inevitabili e facilmente risolvibili. Se poi dovesse generare schiere di perdenti, la soluzione sarà ancor più IA.

 

LA NUOVA OLIGARCHIA E IL SUO CARISMA. Insomma, non dobbiamo dare per scontato che la strada intrapresa andrà a vantaggio di tutti, perché l’effetto sulla produttività è spesso fragile e mai automatico. Ciò a cui assistiamo oggi non è un progresso inesorabile verso il bene comune, ma una visione condivisa e influente tra i leader tecnologici più potenti. Tale visione si concentra su fattori menzionati in precedenza, ovvero l’automazione, il controllo e la raccolta di dati su larga scala, minando la prosperità condivisa e indebolendo le democrazie. Non è un caso se amplifica la ricchezza e il potere di questa élite ristretta, a scapito della società in generale.

La dinamica in atto ha già prodotto una nuova oligarchia: un gruppo di leader tecnologici con background simili, visioni del mondo simili, passioni simili e, purtroppo, cecità simili. Si può parlare di oligarchia perché si tratta di un piccolo gruppo con una mentalità condivisa, che monopolizza il potere sociale e non tiene conto dei suoi effetti rovinosi su chi è privo di voce e, di conseguenza, di potere. Il predominio di tale gruppo non discende da carri armati o missili, ma dall’accesso ai corridoi del potere, che lo rende in grado di influenzare l’opinione pubblica.

 

Leggi anche: Il metodo Musk

 

L’oligarchia della visione prevalente sa essere così persuasiva perché ha goduto di un brillante successo commerciale. Ma è anche sostenuta da una narrazione convincente sull’abbondanza e sul controllo della natura che saranno creati dalle nuove tecnologie, in particolare dalle capacità di crescita esponenziale dell’intelligenza artificiale. L’oligarchia ha un notevole carisma, nel suo peculiare fanatismo da nerd, e soprattutto i moderni oligarchi sanno ipnotizzare i custodi più influenti dell’opinione pubblica: giornalisti, altri dirigenti d’azienda, politici, accademici e intellettuali di ogni tipo. Infine, l’oligarchia della visione è sempre pronta a mettersi in luce quando si tratta di argomenti che ritiene essenziali.

È di cruciale importanza porre un freno alla moderna oligarchia, e non solo perché ci troviamo sull’orlo di un baratro. È il momento di agire perché questi leader hanno ragione su un punto: abbiamo a disposizione strumenti straordinari, le tecnologie digitali possono amplificare tutto ciò che l’umanità è in grado di fare. Ma solo se mettiamo questi stessi strumenti al servizio dell’individuo. E ciò non accadrà finché non sfideremo la visione del mondo dominante tra gli attuali leader tecnologici globali.

 

 

---

*Questo testo è stato pubblicato su Aspenia 1-2024. E’ tratto da Daron Acemoglu e Simon Johnson, Power and Progress: our thousand-year struggle over technology and prosperity, Basic Books, 2023.