For the English version of this letter, click here.
Caro Signor Gates,
ho letto il suo articolo “La turbolenta era dell’IA è arrivata. Le scelte che facciamo ora sono decisive” trovandomi d'accordo con lei più di quanto, forse, mi sarei aspettato.
Condivido diverse sue preoccupazioni. L'intelligenza artificiale potrebbe distruggere definitivamente molti posti di lavoro; potrebbe concentrare il potere là dove il potere è già concentrato; potrebbe rendere più facili frodi, sorveglianza, manipolazione e violenza; potrebbe indebolire il pensiero critico e interferire con quel difficile lavoro umano attraverso il quale bambini e adulti imparano a entrare in relazione gli uni con gli altri. Apprezzo inoltre il fatto che lei riconosca di aver tratto enormi benefici dall'industria tecnologica e la sua affermazione secondo cui le decisioni sul nostro futuro comune non dovrebbero essere semplicemente lasciate alle aziende che sviluppano l'IA.
Non sono d'accordo con tutto ciò che scrive. Credo però che il dissenso più importante si trovi a un livello ancora più profondo rispetto alle politiche che lei propone. Prima di chiederci come gestire la transizione verso l'IA, penso che dovremmo porci due domande preliminari: che cosa ci sta facendo diventare questo tipo di tecnologia? E quale sistema economico e politico l'ha prodotta?
La tecnologia non è mai neutrale
La celebre espressione di Marshall McLuhan, «il mezzo è il messaggio», indica qualcosa che nelle discussioni sull'intelligenza artificiale viene troppo spesso dimenticato. Una tecnologia non è semplicemente uno strumento neutrale in attesa di un'intenzione umana buona o cattiva. La sua forma modifica l'ambiente in cui viviamo, le abitudini che sviluppiamo, ciò che consideriamo normale e, infine, noi stessi.
Lei scrive che l'IA oggi può «sostituire e persino superare la cognizione umana». Credo che dovremmo soffermarci per un momento su queste parole.
Pensare non significa soltanto produrre una risposta corretta. È anche il processo lento e talvolta doloroso attraverso il quale una persona incontra l'incertezza, sbaglia, sviluppa giudizio, scopre i propri limiti, impara la pazienza, assume responsabilità e diventa gradualmente consapevole di chi è. Scrivere non significa soltanto produrre un testo. Ricordare non significa soltanto recuperare informazioni. Conversare non significa soltanto scambiare frasi utili. Queste attività partecipano alla formazione di un essere umano.
Se le deleghiamo sempre più alle macchine, non dovremmo presumere che cambi soltanto il risultato mentre l'essere umano rimane immutato.
Qualunque siano le intenzioni dei singoli progettisti, la capacità più celebrata dell'IA contemporanea è precisamente quella di assumersi un lavoro cognitivo che prima richiedeva una persona. E l'incentivo economico prevalente è quello di ridurre passaggi, tempi e ostacoli operativi, abbassare il costo del lavoro, accelerare la produzione e rendere superfluo l'intervento umano ovunque sia possibile.
Questo crea un pericolo che non può essere risolto semplicemente rendendo l'IA più sicura o più equa. Uno strumento progettato e premiato per sostituire lo sforzo cognitivo può gradualmente indebolire proprio le facoltà attraverso le quali gli esseri umani crescono. Nel parlare di istruzione, lei usa la preziosa espressione «productive struggle», lo sforzo produttivo necessario per apprendere. Io estenderei questa intuizione ben oltre la scuola. Molto di ciò che ci rende umani nasce attraverso uno sforzo produttivo: lo sforzo di capire, ricordare, esprimerci, tollerare la frustrazione, incontrare una persona che non si comporta come desideriamo e rimanere presenti quando nessuna macchina ci fornisce immediatamente una risposta.
La domanda, quindi, non è soltanto: che cosa può fare l'IA per noi? È anche: che cosa fa a noi la dipendenza abituale dall'IA?
L'IA non è nata al di fuori del nostro sistema economico
La mia seconda preoccupazione è che spesso si parli dell'IA come se fosse una forza esterna improvvisamente arrivata a sconvolgere una società altrimenti neutrale. Io la vedo diversamente. L'intelligenza artificiale è un prodotto dell'ordine economico e politico che l'ha creata.
Il nostro sistema attuale premia la competizione, l'accumulazione, l'espansione senza fine, la concentrazione della proprietà, la riduzione del costo del lavoro e la trasformazione di aree sempre più vaste della vita in mercati. Incoraggia le aziende a sostituire le persone quando sostituirle è redditizio. Premia chi accumula capitale sufficiente ad acquisire ancora più capitale, infrastrutture, dati e influenza politica. I costi ambientali e umani possono facilmente diventare esternalità scaricate su qualcun altro.
In questo senso, l'IA non crea la logica di fondo. La accelera.
Lei descrive un «circolo vizioso» in cui un'azienda adotta IA o robot, riduce i costi e costringe i concorrenti a fare altrettanto. Riconosce inoltre che, senza un intervento, i benefici finiranno nelle mani di un piccolo gruppo. Sono d'accordo. Ma questo mi conduce a una conclusione più radicale: non possiamo mitigare adeguatamente le conseguenze dell'IA senza rimettere in discussione le fondamenta del sistema economico che rende razionale questo circolo vizioso.
Credo che dobbiamo allontanarci da una guerra organizzata di ciascuno contro tutti e muoverci verso un ordine sociale realmente collaborativo, nel quale l'attività economica sia subordinata alla dignità e alla libertà di ogni persona, e non il contrario.
Questo richiede anche di affrontare le differenze estreme di patrimonio e di reddito. Una società non può parlare in modo credibile di uguale libertà quando una persona possiede risorse e influenza paragonabili a quelle di istituzioni, mentre milioni di altre persone possiedono quasi nulla.
Glielo dico con rispetto, non come insulto personale. La sua straordinaria ricchezza rende questa domanda concreta anziché teorica. Attraverso il patrimonio che ha accumulato e la fondazione che ha creato, lei ha acquisito una capacità di influenzare la ricerca, la sanità pubblica, la tecnologia e il dibattito politico che pochissimi esseri umani possiedono.
Non dubito che una persona possa cercare di usare un simile potere per il bene. Ma una concentrazione benevola del potere rimane una concentrazione del potere. Un sistema non dovrebbe dover dipendere dalla saggezza o dalla virtù di pochi individui straordinariamente ricchi per servire l'umanità.
Oltre «Human Reserved»
Una delle proposte più interessanti del suo articolo è ciò che lei chiama Human Reserved: scegliere di preservare determinate attività per gli esseri umani anche quando le macchine potrebbero svolgerle.
Vorrei portare questa idea più lontano.
E se riservassimo agli esseri umani non soltanto alcuni lavori, ma qualcosa di più fondamentale: dignità, coscienza e libertà?
Dovrebbero esistere ambiti dell'esistenza umana che nessun governo, azienda, algoritmo, organismo di esperti, datore di lavoro, filantropo o maggioranza abbia il diritto di appropriarsi. Il lavoro interiore della coscienza dovrebbe essere Human Reserved. Il diritto di pensare, dubitare, rifiutare e cambiare idea dovrebbe essere Human Reserved. Il corpo dovrebbe essere Human Reserved. La possibilità di vivere secondo le proprie convinzioni più profonde, finché non si esercita deliberatamente violenza contro gli altri, non dovrebbe dipendere dal patrimonio, dallo status o dall'obbedienza.
Se siamo disposti ad accettare un po' di inefficienza economica per proteggere il lavoro umano, come lei suggerisce, non dovremmo essere disposti ad accettarne molta di più per proteggere la libertà umana?
Medicina, vaccini e il confine della coscienza
Questo mi porta a un tema che da molto tempo è centrale nel lavoro della sua fondazione: i vaccini e la sanità pubblica.
La mia posizione viene prima di qualsiasi disputa sui meriti di un particolare vaccino. È un principio etico: nessun intervento medico dovrebbe essere imposto a un essere umano contro la sua coscienza. Lo stesso principio vale quando i genitori vengono sottoposti a coercizione riguardo a interventi medici o preventivi destinati ai propri figli.
Costringere un altro essere umano a violare la propria coscienza è di per sé una forma profonda di violenza, anche quando la coercizione viene esercitata in nome di un fine ritenuto buono.
Per me la non-violenza non può essere un principio valido soltanto quando è conveniente. Se introduciamo eccezioni ogni volta che siamo sufficientemente convinti della bontà del nostro obiettivo, allora il principio gradualmente scompare. Chi usa la coercizione potrà quasi sempre descrivere il fine perseguito come necessario, protettivo o benevolo.
La scienza non risolve per noi questa questione morale. Può indagare effetti, probabilità, meccanismi, benefici e rischi. Può produrre evidenze di forza diversa. Ma non può rispondere alla domanda etica che viene prima: chi possiede, in ultima istanza, l'autorità sul corpo e sulla coscienza di una persona?
C'è inoltre un'altra ragione per essere umili. La conoscenza scientifica non è una raccolta di verità definitive. La sua dignità risiede proprio nella capacità di dubitare, verificare, replicare, correggere e talvolta rovesciare ciò che in precedenza era stato accettato. Nel mio recente articolo Quando la scienza smette di dubitare: falsità, frodi e crisi della ricerca contemporanea e in una recente intervista ho discusso i problemi della riproducibilità, degli incentivi distorti, dei conflitti d'interesse, dei bias di pubblicazione e il pericolo di sostituire il metodo scientifico con il principio di autorità.
La conclusione non è che la scienza debba essere rifiutata. Al contrario. È che nessuna istituzione dovrebbe chiedere alle persone di «credere nella scienza» come se la scienza fosse un credo. Dovremmo chiedere: quali sono i dati? Come sono stati ottenuti? Quali sono le incertezze? Quali risultati li contraddicono? Chi ha finanziato la ricerca? Persone indipendenti riescono a riprodurre il risultato? Che cosa potrebbe dimostrarci che ci stiamo sbagliando?
E anche quando le evidenze a favore di un intervento medico sono forti, la forza di un'argomentazione empirica e il diritto morale di costringere un'altra persona sono due questioni diverse.
La libertà non deve essere un privilegio dei ricchi
Difendere la libertà di scelta terapeutica non significa abbandonare le persone a se stesse. Al contrario.
Una libertà che soltanto i ricchi possono esercitare non è una gran libertà.
Vorrei sistemi sanitari che offrano a tutti, indipendentemente dal reddito, un accesso reale a una pluralità di approcci medici e preventivi; sistemi che attribuiscano seria importanza alla prevenzione primaria, all'alimentazione, al movimento, al benessere psicologico e sociale, e ad approcci non farmacologici oltre che farmacologici; sistemi che rendano trasparenti le evidenze, le incertezze, i rischi e le alternative; e sistemi nei quali rifiutare un intervento non significhi perdere il diritto alla cura, alla dignità o alla partecipazione sociale.
Il compito di un sistema sanitario umano dovrebbe essere informare onestamente, rendere materialmente accessibili scelte reali, prendersi cura di chi soffre e infine rispettare la decisione della persona.
È qui che la sua attenzione all'equità globale potrebbe diventare ancora più ambiziosa. Invece di chiederci soltanto come fare arrivare a più persone determinate tecnologie, farmaci o vaccini, potremmo chiederci come garantire a ogni persona cura senza rinuncia alla coscienza.
Sarebbe un'altra forma di Human Reserved: non una professione protetta, ma una sovranità umana protetta.
Usare il potere per distribuire il potere
Verso la fine del suo articolo, lei spiega che intende usare la propria voce, il proprio tempo e le risorse della Gates Foundation per portare l'IA e l'equità più in alto nell'agenda politica.
Vorrei invitarla rispettosamente a considerare un'ulteriore possibilità: usare un potere straordinario non soltanto per fare del bene attraverso il potere, ma per creare un mondo nel quale concentrazioni straordinarie di potere diventino meno necessarie e meno possibili.
Sostenga istituzioni che distribuiscano le decisioni invece di centralizzarle. Sostenga strutture scientifiche nelle quali sia possibile indagare domande scomode senza che i ricercatori rischino la propria sopravvivenza professionale. Sostenga sistemi sanitari che offrano alle persone povere scelte reali anziché un unico percorso privilegiato dalle istituzioni. Sostenga assetti economici nei quali la distanza fra il più povero e il più ricco non sia così enorme da trasformare la ricchezza stessa in autorità politica. Sostenga tecnologie che rafforzino le capacità umane anziché rendere gli esseri umani progressivamente dipendenti da sistemi che non possiedono e non comprendono.
Non credo che una pace duratura sia compatibile con un mondo permanentemente diviso tra coloro che possono determinare le condizioni della vita altrui e coloro che devono semplicemente vivere sotto condizioni decise da altri. Finché persisteranno disuguaglianze materiali estreme, continueranno a esistere anche le strutture che generano umiliazione, dominio, conflitto e guerra.
Questo non significa che tutti debbano essere identici o possedere esattamente le stesse cose. Significa che il potere economico di una persona non dovrebbe mai diventare così grande da rendere piccola, al confronto, la libertà di un'altra.
Una domanda per entrambi
Non scrivo questa lettera per sconfiggerla in una discussione. Non pretendo di possedere una verità definitiva. Anzi, uno dei principi che cerco di applicare a me stesso è che dovrei essere fra i primi a mettere in dubbio le mie idee.
Se mi sbaglio, spero che la realtà mi corregga. Se si sbaglia lei, spero che rimanga libero di scoprirlo. E desidero la stessa libertà per tutti: la libertà di dubitare, indagare, rifiutare, cambiare idea e cercare una strada diversa senza essere distrutti economicamente o socialmente per averlo fatto.
Altrove ho scritto della non-violenza senza eccezioni. Per me la non-violenza non è passività. È il rifiuto di costruire la pace attraverso il dominio. Ci chiede di esaminare non soltanto il risultato che vogliamo ottenere, ma anche l'intenzione e i mezzi con cui cerchiamo di raggiungerlo.
Per questo penso che la sua domanda finale — come preservare la nostra umanità durante la transizione verso l'IA — sia ancora più grande dell'IA stessa.
Preserviamo la nostra umanità quando rifiutiamo di trattare la coscienza di un'altra persona come un ostacolo da superare. La preserviamo quando l'efficienza economica non viene prima della dignità umana. La preserviamo quando la conoscenza rimane aperta al dubbio. La preserviamo quando la tecnologia serve lo sviluppo delle capacità umane invece di sostituirle silenziosamente. E la preserviamo quando coloro che possiedono un grande potere sono disposti a mettere in discussione le strutture che hanno conferito loro quel potere.
Forse, allora, il più importante ambito Human Reserved non è una categoria di lavoro.
Forse è la persona umana che deve essere Human Reserved.
Caro Signor Gates, possiamo essere profondamente in disaccordo su alcune questioni. Nonostante questo, le auguro sinceramente ogni bene, così come lo auguro a chi è d'accordo con me e a chi non lo è. Proprio perché la sua influenza è così grande, spero che considererà queste domande non come un attacco, ma come un invito.
Lei domanda come fare in modo che l'IA lasci all'umanità un mondo più equo e più umano.
La mia risposta è che dobbiamo cominciare prima dell'IA: dall'ordine economico che l'ha prodotta, dalla concentrazione del potere che la indirizza e da un rispetto incondizionato per la dignità, la coscienza e la libertà di ogni persona.
Con rispetto e speranza,
Francesco Galgani,
30 agosto 2026