Esseri umani e IA: farsi le domande giuste
Se molti dei maggiori protagonisti della corsa all’intelligenza artificiale ci avvertono con toni drammatici che l’esistenza del genere umano è a rischio, è bene ascoltare e riflettere. E’ bene, però, mantenere anche una certa autonomia di giudizio, non tanto sugli aspetti tecnici che davvero sono fuori portata per quasi tutti coloro che hanno letto le dichiarazioni di Dario Amodei, Sam Altman o Mark Zuckerberg, ma sull’impostazione complessiva con cui la sfida dell’AI viene al momento affrontata. In breve, la discussione in corso sull’AI è troppo importante per essere lasciata soltanto a chi ha costruito questa galassia di tecnologie.
Cerchiamo allora di fare, con uno sguardo più ampio, qualche considerazione generale e di metodo, per poi passare ad una valutazione politica.
Il punto di partenza è comprendere meglio come esattamente stiamo discutendo di AI e delle sue applicazioni concrete. I maggiori leader del settore, in effetti, sembrano spesso non aver studiato (o non aver studiato a sufficienza) altre importanti materie oltre alla ricerca & sviluppo delle tecnologie digitali. In particolare, i loro ragionamenti sono piuttosto carenti riguardo alla psicologia umana (e alle neuroscienze che ormai da anni completano e ampliano questa disciplina), alla biologia (cioè all’evoluzionismo anche nelle sue varianti più recenti e sofisticate), e infine alla storia del diritto (cioè ai precedenti tentativi di regolamentare sul piano anche giuridico tecnologie dirompenti). Vediamo le implicazioni di questi tre grandi settori della conoscenza che sarebbe molto utile incorporare meglio nei dibattiti sull’AI, anche allo scopo di definire con più precisione il significato stesso e i limiti concettuali di questo termine (“intelligenza artificiale”) che è ormai sfuggito di mano perfino in senso etimologico.
La prospettiva psicologica e delle neuroscienze consente di porre quesiti fondamentali sulla coscienza e sulla capacità di un agente AI di percepire se stesso come distinto da altri agenti e come fisicamente collocato in una qualche infrastruttura. Va sottolineato che quello della coscienza umana è tuttora un rompicapo largamente irrisolto, su cui si sono impegnati i più acuti pensatori – basti ricordare la dicotomia mente-corpo di Voltaire e le critiche a questa sua impostazione del problema. Se fisici, biologi, psicologi e filosofi faticano molto a fornire risposte certe, complete e definitive al quesito, colpisce che i “tecnologi” sembrino non porselo affatto, arrivando però direttamente alla conclusione che un agente AI abbia potenzialmente la “intenzione” (che, secondo logica, presuppone una qualche forma di coscienza) di distruggere il genere umano e magari molto altro. Molti hanno giustamente sottolineato che non serve una specifica intenzione malevola di arrecare danno all’umanità, perché basterebbe che la nostra sopravvivenza sia secondaria rispetto ad altri obiettivi per farci diventare una sorta di “danno collaterale”. Vero, ma ciò non toglie che troppo spesso si assume per scontato che un “large language model” sia un agente dotato di intenzioni. E’ al momento un salto logico che va spiegato.
La seconda disciplina su cui è utile riflettere nel valutare lo sviluppo possibile dell’AI è la biologia, e in particolare il concetto centrale di evoluzione per selezione naturale. Ora, sembra opportuna una grande prudenza nell’applicare esattamente gli stessi concetti della selezione naturale agli algoritmi, se non altro per il fatto che, a differenza degli organismi viventi che conosciamo, non hanno ancora una piattaforma paragonabile ad un corpo fatto di cellule in grado di replicarsi (e forse sarà proprio l’acquisizione di un involucro fisico a fare la differenza, come aveva immaginato Isaac Asimov già molti decenni fa). Intanto, però, in prima approssimazione si può immaginare una dinamica evolutiva nell’interazione tra agente digitale e ambiente (digitale e forse anche fisico “esterno”); in questo caso, è allora necessario ragionare proprio in termini di pressioni selettive come facciamo per gli organismi basati sul carbonio. Non sembra invece che il dibattito sull’AI sia particolarmente interessato a questo aspetto, sebbene un qualche tipo di evoluzione debba per forza essere all’opera, visto che gli algoritmi stanno cambiando sotto gli occhi dei loro creatori, i quali ammettono di averne di fatto perso il controllo. Il dibattito è rapidamente approdato al devastante allarme sulla possibilità che questa nuova “forma di intelligenza” metta a rischio la vita umana – dunque, una qualche dinamica evolutiva non biologica starebbe minacciando la vita biologica.
Leggi anche: Ansia Artificiale
Il terzo e ultimo versante su cui è opportuno attirare l’attenzione è quello giuridico, con una domanda piuttosto semplice e diretta: cosa è accaduto quando si è tentato, in passato, di regolamentare e frenare lo sviluppo di alcune tecnologie percepite come dirompenti? Si sente affermare molto spesso che la situazione di oggi è “senza precedenti”, ma questo è vero di qualsiasi nuova alba in un dato punto del Pianeta Terra: ogni giorno è un nuovo giorno, tutto è tecnicamente senza precedenti perché il futuro non è ancora arrivato e, a quanto ne sappiamo, quasi nulla si ripete in modo assolutamente identico. Sebbene il cambiamento sia ubiquo, si può trarre qualche lezione dal passato, per analogia. Almeno due casi, o forse tre, sembrano molto suggestivi e interessanti, almeno in termini di analogie imperfette: la fisica nucleare, la genomica, e anche la stampa a caratteri mobili (sì, andando così indietro nel tempo, fino a metà del Quindicesimo secolo). Nei due casi relativi al XX e poi XXI secolo, vincoli e regole non hanno frenato la ricerca teorica e neppure le maggiori applicazioni tecnologiche, ma soltanto alcuni specifiche applicazioni ritenute troppo pericolose. Per i primi testi stampati, si trattava soprattutto di divieti religiosi, imposti da autorità che allora erano comunque assai potenti e culturalmente dominanti, ma perfino in quel caso l’onda dell’innovazione si dimostrò irrefrenabile. E’ insomma necessario ricordare che alcune tecnologie presentano rischi reali e gravissimi, ma non sono separabili dalle conoscenze specialistiche su cui poggiano; in altre parole, non possono essere “dis-inventate”. Non è realistica l’opzione di fingere che il nucleo atomico contenga poca energia o che il codice genetico sia impossibile da manipolare. O che la Bibbia non possa essere tradotta in qualsiasi lingua e stampata in un numero teoricamente illimitato di copie.
In sostanza, allora, dovremmo sforzarci di usare tutti gli strumenti a nostra disposizione per analizzare le tecnologie che chiamiamo genericamente “AI” da varie prospettive. Proviamo a tornare alla definizione stessa di AI, che è parte integrante del problema da affrontare oggi: utilizzare la parola “intelligenza” ha profonde implicazioni di tipo concettuale con riflessi perfino emotivi, perché evidentemente tende a porre quasi sullo stesso piano e certamente ad un livello di confronto diretto la capacità umana di apprendere, ragionare, valutare, decidere e quella degli algoritmi. Sappiamo perfettamente che gli “agenti” digitali non hanno una struttura biologica, ma li trattiamo come una nostra controparte – soprattutto perché ci parlano e si esprimono (quasi) come esseri umani. La tentazione è irresistibile, e fatalmente li antropomorfizziamo.
Questi algoritmi sono stati progettati proprio dagli esseri umani che ora ci avvertono del terrificante pericolo a cui siamo tutti esposti. Come si vede, si verifica qui uno strano cortocircuito per cui un intelligente inventore ci sta dicendo che la sua invenzione è talmente intelligente da essere pericolosa. Quell’inventore potrebbe avere ragione, e va certamente preso sul serio vista la gravità del problema che solleva, ma sorge il legittimo sospetto che egli non sia poi così intelligente, in fondo. La cosa ricorda il paradosso associato al nome del filosofo cretese Epimenide, secondo cui “tutti i cretesi sono bugiardi”; il loop logico generato da questa affermazione, se fatta appunto da un cretese, non ha via d’uscita per concludere che essa sia vera o falsa. Insomma, resta la sgradevole sensazione che qualche dubbio sull’affidabilità dei protagonisti dell’attuale corsa all’AI sia legittimo quando si tratta di valutare le loro opinioni sul rapporto tra esseri umani e “intelligenze digitali”, anche per le ragioni di metodo sopra ricordate.
Ora, la stessa critica si potrebbe muovere ai fisici del primo scorcio di XX secolo e ai genetisti del suo scorcio finale, ma c’è in realtà una differenza di fondo: mentre in quei casi il pericolo era legato al possibile utilizzo pratico delle conoscenze acquisite, oggi i padri degli algoritmi ci informano di aver perso il controllo del funzionamento dell’AI, cioè di non avere idea di cosa stia accadendo “dentro” il software che pensavano di conoscere. In altri termini, stanno ammettendo di aver già commesso un tragico errore e di non sapere come correggerlo. Hanno costruito in laboratorio un artefatto senza sapere come funziona davvero.
Si può comunque fare ricorso, di fronte a un’incertezza così drammatica con conseguenze potenziali così macroscopiche, al classico principio di precauzione: meglio prendere per buono lo scenario peggiore e prepararsi subito a gestirlo. Il guaio qui è che gli stessi protagonisti di questa complessa conversazione propongono a intermittenza soluzioni diverse, talvolta chiedendo di essere regolamentati per legge e talvolta offrendo la propria totale collaborazione in uno sforzo collettivo di auto-gestione e auto-regolamentazione (la “pausa” proposta recentemente dal fondatore di Anthropic). Sono due strade piuttosto divergenti, perché nel primo caso il settore dell’AI sembra comportarsi come Ulisse attirato fatalmente dal suono delle sirene, facendosi legare all’albero maestro per resistere alla tentazione; nel secondo caso, invece, viene chiesto a tutti di fidarsi ciecamente dei creatori di software nella speranza che non scatenino la più grande forma di hard power della storia.
Leggi anche: Flussi globali di intelligenza artificiale
E’ un dilemma che soltanto la politica può e deve risolvere, ma ecco che il quadro si complica anche da questa prospettiva: soprattutto negli Stati Uniti (e per diverse ragioni strutturali anche in Cina) si è già formato un rapporto strettissimo, quasi simbiotico, tra i decisori politici e l’industria digitale. Non è affatto un segreto che il presidente Trump, fin dall’inizio del suo secondo mandato, ha considerato i giganti digitali come suoi naturali e solidissimi alleati. Non soltanto ha coltivato in pubblico i rapporti personali con quasi tutti i leader del settore, ma ha preso posizioni decisamente accondiscendenti verso le loro richieste di non-regolamentazione. Si è quindi generata una curiosa contraddizione quando il presidente degli Stati Uniti si è spinto perfino più avanti sulla via della deregulation rispetto agli stessi attori principali del settore che si pensa eventualmente di normare.
In piena coerenza con il suo stile comunicativo, Trump ha infatti indossato i panni del “grande semplificatore”, dichiarando a metà settembre (ovviamente sui social media, con quella che possiamo definire un’interessante circolarità digitale) che i timori per una perdita di controllo sull’AI sarebbero soltanto una forma di “hoax”, insomma una bufala o peggio una congiura architettata da forze progressiste, lunatiche, estremiste. Ha così adottato lo stesso metodo e la stessa terminologia che ha sistematicamente usato per i cambiamenti climatici (altra grande bufala, a suo parere), cadendo però anche nella stessa trappola logica: criticare alcune specifiche scelte politiche in relazione ad un problema letteralmente globale non presuppone nè richiede che le conoscenze tecnico-scientifiche sulle origini di quel problema siano fallaci o addirittura distorte deliberatamente da qualcuno. E’ un grande non sequitur, che finisce per basare una complessa discussione su un’errata iper-semplificazione. Di fatto, l’intervento del presidente preclude la strada ad un confronto razionale. Probabilmente, l’obiettivo di Trump è precisamente cambiare discorso, e impedire così una conversazione informata e prudente tra legislatori, opinione pubblica, esperti e mondo industriale. Inoltre, si inserisce nel contesto internazionale di una competizione durissima e senza esclusione di colpi tra USA e Cina, con altri attori secondari (ma rilevanti) che cercano di trovare spazi di manovra tra le due superpotenze.
In occasione dell’Assemblea Generale delle Nazioni Unite di questo 2026, il presidente americano ha perfino proposto di ribattezzare l’AI “Super Intelligence”, come sempre affascinato dall’idea di attribuire nuovi nomi ad oggetti che lo interessano particolarmente. L’ipotesi introduce ulteriore confusione nel dibattito, visto che gli esperti della materia utilizzano quel termine in modo molto più preciso per indicare uno stadio specifico dell’evoluzione di questa forma di intelligenza, che peraltro non è stato ancora raggiunto.
La politica, interna e internazionale, sta così rendendo ancora più complicato gestire un problema già tecnicamente complesso. Una speranza può venire da accordi analoghi a quelli sul controllo degli armamenti per frenare la corsa al continuo potenzialmente degli ordigni nucleari. L’analogia è solo parzialmente valida, alla luce del minor grado di controllo governativo oggi esercitato (soprattutto negli USA) sull’AI e dell’ammissione di impotenza dei suoi creatori.
In ultima analisi, l’unica strada realisticamente perseguibile a questo punto sembra essere quella di un maggiore impegno (essenzialmente spontaneo, seppure incoraggiato da uno sforzo normativo e di monitoraggio) dei produttori nel garantire migliori standard di sicurezza, e accordi molto specifici a livello internazionale (coinvolgendo ove possibile anche la Cina) per uno scambio di informazioni continuo su eventuali incidenti. Ma un elemento imprescindibile del mondo nuovo nel quale già ci troviamo sarà l’evoluzione di agenti digitali benigni o sotto diretto controllo umano che siano in grado di contrastare altri agenti digitali (maligni o comunque fuori controllo); in sostanza, un ecosistema dinamico in cui si sviluppino rapporti di competizione, collaborazione, predazione, simbiosi.
Parallelamente, si deve sperare che emergano tipi nuovi e diversi di business model nell’uso dell’AI a scopi costruttivi e lungimiranti: sarà proprio questa la maggiore responsabilità umana in un ecosistema che non dipenderà certo soltanto dalle scelte dei programmatori, dei capi d’azienda e dei capi di governo. L’evoluzione e la selezione degli organismi più adatti sono fenomeni dagli esiti creativi, imprevedibili e sorprendenti.
