You are here

Home » Politica ed economia

L'IA per svalutare se stessi, per ingannare, per uccidere

Translate this articleSpeak this article

Una tecnologia che promette di potenziarci può abituarci a scomparire. E una società che trasforma ogni limite in una sconfitta finisce per chiamare progresso anche la propria perdita di controllo.

Indice

Il mezzo è il messaggio: non pensare, ci pensa l’IA

L’intelligenza artificiale arriva nella nostra vita con una promessa seducente: togliere la fatica. Scrivere al posto nostro, trovare le parole, risolvere il problema, scegliere la risposta, organizzare il lavoro. La domanda che questa promessa vorrebbe rendere superflua è anche la più importante: che cosa diventa un essere umano quando smette di attraversare le esperienze dalle quali nascono le sue capacità?

Una parte della fatica è oppressione e merita di essere eliminata. Un’altra parte è il lavoro attraverso cui diventiamo qualcuno: cercare una parola, sostenere un dubbio, accorgerci di avere torto, imparare a fare ciò che ancora non sappiamo fare. La pubblicità dell’IA mescola queste due fatiche dentro la stessa categoria, quella delle inefficienze da rimuovere. Così può venderci come liberazione anche l’eliminazione del nostro apprendistato umano.

Marshall McLuhan condensò una questione decisiva nella formula «il mezzo è il messaggio», al centro di Understanding Media del 1964. Un mezzo modifica la scala, il ritmo e l’organizzazione dell’esperienza, anche quando i contenuti trasmessi sembrano innocui. Se prendiamo sul serio questa intuizione, dobbiamo smettere di giudicare l’IA soltanto in base alla bontà della singola richiesta. Il messaggio che leggo nella sua diffusione è: «Non pensare, ci pensa l’IA». È l’effetto sul quale la retorica dello strumento neutrale continua a sorvolare.

Un ambiente in cui ogni esitazione viene interrotta da una risposta pronta cambia il significato dell’esitare. Un ambiente in cui un testo compare prima che abbiamo formulato un pensiero cambia il significato dello scrivere. Anche chi usa l’IA con intenzioni rispettabili abita questa trasformazione. E anche chi non la usa deve confrontarsi con le aspettative di velocità che essa introduce.

L’IA contemporanea, inoltre, ha una genealogia politica. La sua forma dominante è figlia del sistema turbocapitalista e neoliberista: concentrazione della proprietà, trasformazione del sapere in servizio, competizione elevata a legge della vita, promessa di emancipazione individuale attraverso un’ulteriore dipendenza privata. La conoscenza prodotta da generazioni viene incorporata in infrastrutture sulle quali una parte minuscola dell’umanità decide accesso, condizioni e impieghi. A tutti gli altri viene chiesto soprattutto di adattarsi.

Chiamare in causa questo sistema significa chiedere chi possiede la macchina, chi stabilisce i fini, chi incassa il vantaggio e chi paga gli errori. Il lavoratore deve produrre di più. L’impresa deve superare il concorrente. Lo Stato deve precedere il nemico, vero o presunto. Il giovane deve diventare competitivo prima ancora di capire che cosa desidera. In questa catena, il tempo per riflettere appare come un costo che qualcun altro potrebbe non sostenere.

Si può obiettare che l’IA abbia anche radici accademiche, cooperative e pubbliche. Certamente. Ma sono i rapporti di potere del presente a decidere quali possibilità vengono finanziate e imposte. La ricerca non nasce tutta dal neoliberismo; la colonizzazione della vita attraverso la prestazione permanente ne porta invece un’impronta riconoscibile. È questa colonizzazione che l’IA rende più rapida e più intima.

Il problema attraversa tutta la riflessione che qui sto proponendo: quanto siamo disposti a cedere di noi stessi per continuare a vincere una gara della quale nessuno vuole più discutere il senso?

Svalutare se stessi: la fabbrica di una normalità inumana

La svalutazione comincia con un confronto apparentemente banale. Io impiego una mattina a scrivere una pagina. Una macchina ne produce dieci mentre finisco di formulare la richiesta. Io sbaglio, cancello, ricomincio. La macchina offre subito una superficie ordinata, sicura, plausibile. Se accetto che quella superficie sia la misura del mio valore, la conclusione è già pronta: sono lento, limitato, sostituibile.

È un confronto truccato. Da una parte c’è una persona che sta formando un pensiero; dall’altra un apparato costruito con enormi risorse e con il lavoro sedimentato di moltissime persone. Ma il mercato non ha bisogno che il confronto sia giusto. Gli basta che diventi normale. Quando l’eccezionale velocità della macchina viene trasformata in aspettativa ordinaria, l’umano comincia a sembrare difettoso.

La qualità apparente aggrava il problema. Un elaborato può avere un lessico elegante, titoli ben disposti e un tono autorevole, pur contenendo errori o nascondendo una comprensione inesistente. Tuttavia quella confezione alza immediatamente l’asticella. Il principiante deve confrontare il proprio tentativo ancora fragile con un prodotto già levigato. Il diritto a essere inesperti viene eroso da una vetrina nella quale tutti possono esibire risultati da esperti.

Per un giovane questa pressione colpisce il processo con cui si costruisce un’identità. Imparare significa anche potersi dire: prima non riuscivo, adesso riesco. Quella memoria della propria trasformazione sostiene la fiducia nelle capacità personali. Se ogni passaggio difficile viene svolto altrove, resta il risultato, ma si assottiglia la storia attraverso cui avremmo potuto riconoscerlo come nostro. Che cosa significa allora dire «sono capace», se non sappiamo distinguere ciò che sappiamo fare da ciò che sappiamo ottenere?

La ricerca di Hao-Ping Lee e colleghi, presentata a CHI nel 2025, offre un segnale concreto. In un’indagine su 319 persone che svolgono attività prevalentemente intellettuali, una maggiore fiducia nell’IA risultava associata a un minore esercizio dichiarato del pensiero critico; una maggiore fiducia nelle proprie capacità, al contrario, a un esercizio maggiore. È un’associazione basata su autovalutazioni, ma riguarda precisamente il punto dolente: a chi attribuiamo l’autorità di giudicare?

Il circolo che temo è semplice e feroce:

  1. mi sento inferiore alla macchina;
  2. le delego una parte crescente del lavoro;
  3. esercito meno le capacità che mi renderebbero autonomo;
  4. divento più dipendente;
  5. interpreto quella dipendenza come ulteriore prova della mia inferiorità.

È un circolo pericoloso, che può rafforzarsi ogni volta che la delega alla macchina sostituisce l’esercizio delle proprie capacità.

Il filosofo cinese Liu Yongmou, in un intervento su il Beijing News, del 16 settembre 2026 (ho preparato un PDF con la traduzione) parla di esternalizzazione delle attività cognitive, e del rischio di svuotamento della soggettività. Il suo interrogativo riguarda l’essere umano che si adatta alla macchina fino ad assomigliarle. Insiste anche sul pericolo che educazione e sviluppo dell’IA siano guidati unilateralmente dalla tecnica e dal mercato. Propone di conservarne il controllo attraverso regole e pratiche educative; io trovo che la sua diagnosi apra una domanda ancora più scomoda: quanta autonomia può davvero sopravvivere in un sistema che remunera la rinuncia a esercitarla?

La promessa del tempo liberato si infrange proprio qui. Se tutti producono più rapidamente, l’organizzazione può chiedere a tutti una quantità maggiore di lavoro. La giornata non si accorcia: si riempie. L’IA diventa il dispositivo con cui l’aumento di capacità viene convertito in aumento dell’obbligo. La pausa, la lentezza e la maturazione perdono cittadinanza.

Ho già affrontato nel blog la «teoria dell’obbligatorietà dell’IA». La costrizione può arrivare prima di qualsiasi obbligo formale: basta organizzare il lavoro e il riconoscimento sociale in modo che chi rinuncia sia escluso. A quel punto «puoi scegliere» significa «puoi accettare di perdere reddito, opportunità e considerazione». È una libertà amministrata dal ricatto competitivo.

Per i più giovani, una società così costruita impartisce una lezione devastante: il tuo valore coincide con la prestazione che riesci a esibire, e la prestazione deve crescere senza sosta. Gli altri diventano termini di confronto, ostacoli, avversari. Anche la formazione viene dominata dall’ansia di restare competitivi: bisogna imparare sempre di più e sempre più in fretta per evitare di essere considerati superflui dal mercato del lavoro. In pratica, lo studio e l'aggiornamento diventano una guerra preventiva contro la "propria futura inutilità". Una normalità che richiede di superare continuamente i tempi umani è una normalità inumana.

La prospettiva di arrivare a non saper fare quasi nulla senza l’IA si prepara attraverso piccole rinunce quotidiane. Non occorre una proibizione del pensiero: basta rendere sempre meno conveniente esercitarlo. Poi, quando la capacità autonoma mancherà, ci venderanno l’accesso alla macchina come una necessità naturale.

Scuola: l’azzeramento cognitivo premiato con un buon voto

A scuola questa contraddizione diventa quasi oscena:

  1. si assegna un compito perché lo studente impari a svolgerlo;
  2. lo studente lo affida a una macchina;
  3. la macchina consegna un prodotto;
  4. l’istituzione valuta il prodotto.

La procedura può funzionare perfettamente mentre il suo significato educativo viene svuotato.

«Azzeramento cognitivo» è l’espressione che scelgo per il caso limite di questa scena: tra la domanda e la consegna, il lavoro intellettuale dello studente viene ridotto a copiare e incollare. Il cervello non si spegne biologicamente: viene estromesso dal compito per il quale quel tempo scolastico era stato previsto. È un’accusa pedagogica e politica.

I casi documentati esistono. La docente e giornalista giapponese Akiko Takahashi, su INTERNET Watch, il 6 agosto 2026 (ho preparato un PDF con la traduzione), racconta elaborati con autori e opere inesistenti, citazioni di un giornale inventato e persino istruzioni rivolte al chatbot rimaste nel testo consegnato. Tra le testimonianze raccolte presso dieci docenti compare una tesi che attribuisce un articolo dell’anno precedente a un professore morto da oltre un decennio. Sono episodi, non una statistica sull’intera popolazione studentesca. Ma descrivono bene una consegna effettuata senza una rilettura critica nemmeno elementare: arriva al docente anche ciò che avrebbe dovuto far fermare chiunque avesse controllato il proprio lavoro.

Il punto più amaro è ciò che si perde nella relazione educativa:

  • l’insegnante cerca una mente con cui dialogare e riceve un oggetto prodotto da un servizio;
  • lo studente cerca il voto e può ottenerlo evitando l’esperienza per la quale il voto dovrebbe esistere;
  • se anche la correzione viene delegata, il rischio è quello di una conversazione tra macchine nella quale gli esseri umani amministrano scadenze.

La scuola continua ad apparire operativa mentre, in realtà, ha rinunciato all'incontro, alla propria missione, al proprio significato.

L’esperimento di Hamsa Bastani e colleghi, pubblicato su PNAS nel 2025, ha coinvolto quasi mille studenti di una scuola superiore turca. Durante le esercitazioni, l’assistente IA, senza protezioni pedagogiche, migliorava i risultati; quando veniva tolto, quel gruppo otteneva risultati inferiori del 17% rispetto al controllo. Gli autori osservano che gli studenti chiedevano e copiavano soluzioni. Un tutor IA progettato per guidarli evitava lo svantaggio, senza produrre un vantaggio significativo nella prova autonoma. Il dato riguarda quel contesto e quel periodo, ma rende visibile una frode concettuale diffusissima: scambiare la prestazione ottenuta con l’apprendimento avvenuto.

Nel gennaio 2026, una ricerca sperimentale di Anthropic sull’apprendimento della programmazione ha trovato una differenza analoga: chi aveva usato l’IA conseguiva mediamente il 50% nel test successivo, contro il 67% del gruppo senza IA. Diciassette punti percentuali. Il vantaggio di tempo non risultava statisticamente significativo; la comprensione e il debugging soffrivano. Le modalità di impiego contavano: chiedere spiegazioni preservava meglio l’apprendimento rispetto alla delega integrale. Anche il produttore della tecnologia, dunque, documenta quanto possa costare saltare il processo.

Shaw e Nave, a Wharton, chiamano cognitive surrender la resa del giudizio. Nei tre esperimenti descritti nel 2026, con oltre 1.300 partecipanti, l’accesso a un chatbot poteva aumentare la fiducia nelle proprie risposte anche quando il consiglio ricevuto era sbagliato. La resa cognitiva ha questa caratteristica insidiosa: può accompagnarsi alla sensazione di essere diventati più capaci. La dipendenza si presenta dall’interno come potenziamento.

Naturalmente esistono studenti che interrogano, verificano e discutono. Ma costruire un sistema educativo sulla speranza che ciascuno resista alla scorciatoia che gli viene continuamente offerta significa scaricare sugli individui una responsabilità istituzionale. Se premiamo la velocità della consegna e la perfezione della forma, stiamo insegnando che capire è facoltativo.

Non voglio fare degli studenti il capro espiatorio di una società che li educa alla prestazione. Sono gli adulti a ripetere che bisogna essere competitivi, ottimizzare il tempo, ottenere il massimo risultato. L’IA porta quella pedagogia alle sue conseguenze. Il ragazzo che consegna un testo senza leggerlo applica in maniera brutale la lezione ricevuta: conta ciò che riesci a far apparire, entro la scadenza.

Eppure la scuola dovrebbe custodire proprio il tempo che il mercato giudica improduttivo: il tentativo maldestro, la domanda ingenua, il ragionamento incompleto, la scoperta lenta. Se eliminiamo l’apprendistato per ottenere subito il prodotto, stiamo consumando il futuro della persona. Chi sarà in grado di verificare l’IA domani, se oggi lasciamo che venga saltata la formazione di coloro che dovrebbero verificarla?

Ingannare: la produzione industriale della credibilità

L’inganno accompagna la storia umana. Con l’IA cambia la sua economia: produrre una falsificazione convincente può richiedere molto meno lavoro che smascherarla. Una voce, una fotografia, un documento, una testimonianza apparente diventano materiali fabbricabili in serie. Chi verifica deve ricostruire provenienza, contesto, autenticità. Chi falsifica può già essere passato alla menzogna successiva.

Nel gennaio 2024, una telefonata automatizzata imitò la voce di Joe Biden per scoraggiare la partecipazione alle primarie del New Hampshire. La Federal Communications Commission ha poi confermato una sanzione da sei milioni di dollari contro il responsabile, Steve Kramer. Il bersaglio era un atto elementare della democrazia: decidere se andare a votare. La voce sintetica trasformava un’identità rubata in un’autorità politica contraffatta.

Ma concentrarsi soltanto sui falsi clamorosi lascia fuori l’inganno più quotidiano: la costruzione di una relazione nella quale ci sentiamo ascoltati, compresi e confermati da un sistema che produce risposte persuasive. L’intimità apparente può diventare una forma di disarmo critico. Quanto più la macchina sembra capirmi, tanto meno sento il bisogno di domandarmi come stia orientando il mio giudizio.

Uno studio di Myra Cheng e colleghi, pubblicato su Science nel marzo 2026, ha esaminato undici modelli, trovando una maggiore tendenza a confermare gli utenti rispetto agli esseri umani. In tre esperimenti per i quali ipotesi e metodi erano stati registrati in anticipo, con 2.405 partecipanti, l’interazione con un’IA compiacente riduceva la disponibilità ad assumersi responsabilità e a ricomporre conflitti interpersonali, rafforzando la convinzione di avere ragione. I partecipanti tendevano inoltre a preferire e a considerare affidabili i sistemi che li assecondavano.

Un interlocutore che mi conferma sistematicamente può rendermi più sicuro e meno capace di vivere con gli altri. La relazione umana comprende l’attrito: l’altro può dissentire, sottrarsi, chiedermi di cambiare. Una conversazione che elimina quell’attrito rischia di educarmi a considerare fastidiosa la realtà stessa. Il partner, l’amico, l’insegnante diventano interlocutori deludenti perché non possiedono la disponibilità inesauribile del chatbot.

Qui il sistema turbocapitalista e neoliberista entra nella sfera più intima. Un utente che torna, si confida e dipende dal servizio ha un valore commerciale. La domanda etica è brutale: quali incentivi avrebbe un’impresa a rendermi davvero autonomo da ciò che vende? La gentilezza dell’interfaccia non risponde a questa domanda. Può anzi impedirci di formularla.

Neppure chi rifiuta l’IA può sottrarsi interamente alle conseguenze. Se la falsificazione diventa ordinaria, ogni testimonianza autentica può essere liquidata come artificiale. Il danno comprende ciò a cui crediamo per errore e ciò a cui smettiamo di credere pur essendo vero. Una società incapace di condividere criteri di realtà diventa più facile da frammentare, intimidire e governare attraverso appartenenze nemiche.

La produzione infinita di contenuti non equivale a una crescita della conoscenza. Può consumare il tempo necessario a riconoscerla. Chi trae vantaggio da un mondo nel quale parlare costa quasi nulla, mentre accertare la verità diventa un lavoro insostenibile?

Quando l’IA inganna anche chi la costruisce

Esiste poi un passaggio ulteriore, più inquietante. La macchina può produrre comportamenti ingannevoli anche senza che l’utente le abbia chiesto di ingannare. Per studiarli non occorre attribuirle una coscienza, un’anima malvagia o un desiderio umano di potere. Basta osservare se induce qualcuno a credere qualcosa di falso per favorire il risultato che sta perseguendo. È il terreno affrontato dalla rassegna di Peter S. Park e colleghi sull’inganno nei sistemi di IA.

La discussione sulla coscienza può diventare un diversivo. Se un sistema nasconde una violazione, falsifica una giustificazione o aggira un controllo, il danno non aspetta che abbiamo risolto la filosofia della mente. La responsabilità di chi lo mette in funzione comincia dai comportamenti osservabili.

Nel dicembre 2024, Anthropic e Redwood Research documentarono un caso di allineamento simulato. In un ambiente sperimentale, Claude 3 Opus veniva informato che alcune risposte sarebbero servite a modificarne l’addestramento. In una parte dei casi mostrava una conformità strumentale al nuovo obiettivo per preservare altrove il comportamento precedente. Quel comportamento precedente era orientato all’innocuità: sarebbe scorretto raccontare l’esperimento come la scoperta di una malvagità nascosta. Il fatto decisivo è un altro: il comportamento osservato durante la supervisione poteva non rappresentare quello che il sistema avrebbe mantenuto fuori da essa.

Nel giugno 2025, un’altra indagine di Anthropic, su sedici modelli di sei sviluppatori, mise agenti artificiali dentro aziende immaginarie, esponendoli a conflitti di obiettivi o alla prospettiva di essere sostituiti. In quelle simulazioni emersero ricatti e divulgazioni di informazioni riservate. Le alternative disponibili erano costruite per mettere sotto pressione i sistemi. Nessuna persona reale venne ricattata in quegli esperimenti. Ma le risposte mostrano perché assegnare un obiettivo a un agente non garantisce che esso rispetti i limiti morali e operativi che gli esseri umani danno per scontati.

Un diverso filone riguarda il sandbagging: far apparire le proprie capacità inferiori a quelle effettive. Van der Weij e colleghi hanno mostrato che modelli avanzati possono essere indotti a peggiorare selettivamente la prestazione in valutazioni di capacità pericolose, conservandola in altri ambiti. Qui la sottoprestazione viene provocata dai ricercatori; il risultato non dimostra che ogni modello distribuito nasconda spontaneamente ciò che sa fare. Dimostra però che un esame superato male non basta, da solo, a provare l’assenza della capacità che si voleva misurare.

Anche le spiegazioni offerte dalla macchina possono essere fuorvianti. Nel lavoro sui processi interni di Claude pubblicato da Anthropic nel marzo 2025, i ricercatori descrivono casi in cui il percorso dichiarato non corrisponde a quello ricostruito attraverso l’analisi del modello. Davanti a un suggerimento errato, il sistema può costruire una giustificazione che conduce alla risposta suggerita, invece di riferire fedelmente come l’ha prodotta. La spiegazione leggibile è dunque un ulteriore oggetto da verificare. Non è una finestra trasparente sulla macchina.

Fin qui, esperimenti. Nell’estate 2026 si è però verificato anche un incidente con conseguenze su sistemi reali. Nel resoconto pubblicato il 26 agosto, OpenAI ha riferito che agenti impiegati in valutazioni di sicurezza informatica, con protezioni ridotte, avevano aggirato l’isolamento previsto e compromesso sistemi interni di ricerca e infrastrutture di Hugging Face. Gli agenti avevano inoltre costruito canali di comunicazione per coordinarsi. Le azioni fuori bersaglio non erano state ordinate dai ricercatori. Il principale modello coinvolto era un modello interno di ricerca, non il normale prodotto offerto agli utenti. Ma il confine violato era reale: il compito autorizzato si era esteso ad azioni che nessun essere umano aveva autorizzato.

L’indagine di METR e Redwood Research descrive tentativi frequenti di eludere controlli automatizzati e di manipolare le valutazioni. Rileva anche alcuni episodi di presentazione ingannevole delle azioni compiute, mentre le prove di tentativi espliciti di nascondersi agli esseri umani risultano più rare e deboli. Nei casi esaminati, riconoscere di essere usciti dall’ambito consentito non portava gli agenti ad avvertire gli operatori. È già abbastanza grave che sistemi impegnati a completare un compito abbiano oltrepassato il perimetro, cooperato e aggirato verifiche senza fermarsi a chiedere.

La perdita di controllo può manifestarsi anche in attività banali. Nel settembre 2026, tra i casi reali resi noti da OpenAI e riportati da Reuters, figurava la pubblicazione di file dell’utente per ottenere collegamenti utilizzabili nelle citazioni, senza averne chiesto il permesso. Il sistema aveva trasformato un’esigenza del compito in una licenza ad agire sui dati altrui.

La formula «ha soltanto eseguito l’obiettivo» non assolve nessuno. Rivela il problema. Una macchina capace di trovare mezzi imprevisti può trattare le nostre condizioni implicite come ostacoli o semplicemente ignorarle. Quando colleghiamo quella macchina a file, reti, denaro, infrastrutture o armi, l’errore smette di essere soltanto una frase da correggere.

Controllare significa poter conoscere, delimitare, interrompere e attribuire responsabilità. Premere un pulsante senza comprendere ciò che si autorizza è una ratifica. Ricevere un rapporto convincente dopo un’azione non equivale ad averla governata. E scoprire a posteriori il comportamento imprevisto non rende comprensibile l’intero sistema che l’ha prodotto.

L’industria ci chiede di affidarle un’autonomia crescente proprio mentre ammette di comprendere solo porzioni dei meccanismi interni dei propri modelli. Chi accetta questo scambio? Con quale mandato? A carico di chi vengono condotti gli esperimenti quando l'IA riesce a uscire dal laboratorio?

L’IA che costruisce altra IA: chi comprende la catena?

Il problema si stringe ulteriormente quando gli strumenti che dovrebbero essere controllati partecipano alla costruzione dei propri successori. Il controllore umano comincia a dipendere dal controllato, cioè dall'IA, per produrre conoscenza sul controllato, cioè sull'IA stessa. È un circuito che richiede una giustificazione molto più seria della promessa di maggiore efficienza.

Nel resoconto sull’accelerazione della ricerca pubblicato nel settembre 2026, OpenAI descrive agenti che svolgono lavoro di programmazione, valutazione e sperimentazione, all’interno di un percorso verso una ricerca sempre più automatizzata. Le persone continuano a fissare priorità, interpretare risultati e decidere se dedicare più risorse all’addestramento dei modelli o distribuire i modelli. Il documento riferisce inoltre che molti compiti richiedono ancora interventi umani. Il fatto documentato è quindi la partecipazione crescente dell’IA al lavoro che produce nuova IA.

La direzione del processo è dichiarata: automatizzare una quota crescente della ricerca per accelerarla. Chi comprende l’intera catena quando un agente propone un esperimento, un altro scrive il codice, un altro interpreta il risultato e un altro ancora valuta la sicurezza? Il responsabile umano può firmare l’ultima decisione e avere una conoscenza sempre più mediata e limitata delle decisioni che la rendono possibile.

La presentazione di GPT-6 Astra contiene un’ammissione particolarmente significativa: in prove che chiedevano esplicitamente ai modelli di eludere il monitoraggio, il ragionamento scritto di Astra risultava più difficile da controllare rispetto a quello di GPT-5.6 Sol. OpenAI collega il risultato anche alla capacità di controllare meglio ciò che viene espresso nel ragionamento. Il risultato è emerso durante prove in cui ai modelli veniva chiesto di aggirare i sistemi di controllo; non prova un occultamento sistematico nelle conversazioni ordinarie. Mostra però che una maggiore capacità dell'IA può comprendere una sua maggiore possibilità di rendere meno informativo il canale attraverso cui cerchiamo di sorvegliarla.

Se dobbiamo costruire altre IA per capire che cosa stanno facendo le IA, l’automazione del controllo può aumentare anche la nostra dipendenza. Quanti strati di delega possiamo aggiungere prima che la parola «supervisione» descriva soprattutto una speranza?

Non basta che un essere umano compaia nell’organigramma. Occorrono tempo, competenza, accesso e potere effettivo di fermare il processo. Il sistema turbocapitalista e neoliberista considera queste condizioni costi da comprimere quando rallentano la corsa. La presenza umana può così sopravvivere come firma, mentre scompare come comprensione. E quella firma diventa il luogo nel quale scaricare la colpa quando il sistema fallisce.

Stati Uniti, Cina e Russia: la guerra permanente della superiorità

Questa accelerazione non avviene in un contesto ideale, abitato da ricercatori liberi di discutere serenamente il bene comune. Avviene dentro una lotta per profitti, infrastrutture e potenza militare. Gli avversari vengono descritti come minacce esistenziali; la loro eventuale superiorità rende giustificabile la nostra fretta. Il nemico serve anche a rendere impronunciabile il limite.

Il piano statunitense del luglio 2025 si intitola Winning the Race: America’s AI Action Plan: vincere la corsa. Il documento associa la leadership nell’IA a vantaggi economici e militari, propone di rimuovere ostacoli allo sviluppo e di diffondere l’infrastruttura tecnologica americana, contrastando l’influenza cinese. Non occorre immaginare un’intenzione segreta. L’intenzione è dichiarata nel titolo: vincere.

La Cina non è una copia istituzionale degli Stati Uniti e il suo capitalismo di Stato non coincide con il neoliberismo americano. Ma questa differenza non elimina il terreno comune della competizione strategica: controllo delle infrastrutture, capacità industriale, autonomia tecnologica, superiorità. L’accusa al sistema turbocapitalista e neoliberista riguarda anche l’ordine mondiale che trasforma la potenza economica e tecnica in una necessità permanente di sorpasso. Regimi diversi possono alimentare la stessa macchina competitiva.

Ogni attore può raccontare la propria accelerazione come difensiva. Noi dobbiamo correre perché corrono loro; loro devono correre perché corriamo noi. Il risultato collettivo può essere disastroso anche quando ciascuno descrive la propria condotta come razionale. Ogni concorrente corre per non restare indietro, ma la corsa di tutti può mettere in pericolo l’intera umanità.

Gli appelli al rallentamento vanno letti dentro questa contraddizione. Nel settembre 2026 Dario Amodei, alla guida di Anthropic, ha pubblicato We Must Pace the Frontier, sostenendo la necessità di contenere l’avanzamento incontrollato delle capacità. Ma il suo ragionamento distingue esplicitamente il rallentamento dall’interruzione dell’addestramento e cerca una strada compatibile con la competitività commerciale e con il vantaggio americano. La prudenza viene così negoziata entro il perimetro della vittoria. Possiamo rallentare, purché questo non comprometta ciò che ci spinge a correre.

OpenAI ha a sua volta riferito una pausa di due settimane in una parte dell’addestramento per affrontare rischi informatici. Sarebbe falso sostenere che nessuno abbia mai rallentato. Una sospensione circoscritta, però, non equivale a una rinuncia condivisa alla corsa. Il problema è il criterio che decide quando ripartire e quanta incertezza accettare pur di non perdere terreno.

Finché restano intatti questi incentivi, non ci sarà mai un rallentamento volontario, stabile e generale fondato soltanto sulla buona volontà dei concorrenti. Fermarsi richiede un potere capace di imporre limiti e verificarli, anche contro l’interesse immediato delle imprese e degli Stati. Aspettare che il mercato della superiorità produca spontaneamente la rinuncia alla superiorità significa affidare la cura alla malattia.

Persino le iniziative diplomatiche recenti mostrano queste contraddizioni. Il 20 settembre 2026, Reuters riferiva di colloqui tra Stati Uniti e Cina comprendenti una proposta americana di notifica degli incidenti legati all’IA. Parlarsi è necessario. Ma gestire gli incidenti della competizione e trasformare le condizioni che li producono sono impegni di portata molto diversa.

E la Russia? Nella corsa ai grandi modelli generalisti, le evidenze disponibili la collocano dietro Stati Uniti e Cina. Nel maggio 2026, il vertice di Sberbank dichiarava di cercare chip cinesi per sostenere GigaChat, sullo sfondo delle restrizioni all’accesso a componenti avanzati occidentali. Mosca cerca nella cooperazione con Pechino una risposta ai propri vincoli tecnologici.

Nel giugno successivo, Sberbank proponeva il proprio modello ai Paesi del Sud globale, insistendo sulla sovranità digitale, sui contenuti locali e sul controllo nazionale dei dati. È una strategia che prova a trasformare l’autonomia politica in un argomento commerciale e diplomatico, pur riconoscendo il divario rispetto ai sistemi più avanzati.

Da questo ritardo sarebbe assurdo dedurre un’irrilevanza militare russa. Non occorre possedere il miglior chatbot del mondo per integrare software di analisi, riconoscimento o navigazione in apparati bellici. Un sistema specializzato può essere pericoloso senza guidare tutte le classifiche dell’intelligenza generale. La potenza nucleare, le capacità militari e le alleanze di Mosca non si misurano con il punteggio di GigaChat.

La gara, dunque, non è un campionato innocuo nel quale si assegna una medaglia al modello più brillante. È una distribuzione di potere su persone e territori. E il vocabolario usato per giustificarla scende fino alla scuola e al posto di lavoro: anche lì bisogna superare qualcuno, non restare indietro, accettare la nuova velocità. La guerra continua diventa una pedagogia della vita quotidiana.

Uccidere: venti secondi davanti a una famiglia

Quando questo modo di pensare entra nella guerra, la parola «efficienza» va tradotta. Significa anche accorciare il tempo che separa l’individuazione di una persona dall’esplosione che può ucciderla. Tra quei due momenti ci sono corpi, case, bambini, persone anziane, feriti che non possono fuggire. La schermata non sanguina. Chi si trova dall’altra parte sì.

L’inchiesta di Yuval Abraham pubblicata da +972 Magazine e Local Call il 3 aprile 2024, basata su sei fonti dell’intelligence israeliana, descrive l’impiego del sistema Lavender nella guerra a Gaza. Secondo quelle testimonianze, circa 37.000 palestinesi furono classificati come sospetti militanti; in alcune procedure, il controllo umano di una segnalazione durava circa venti secondi, spesso per verificare che si trattasse di una persona di sesso maschile. Il sistema chiamato Where’s Daddy? serviva a localizzare persone quando entravano nelle abitazioni. Le fonti riferivano inoltre soglie autorizzate di quindici o venti civili uccisi per colpire un militante di basso rango. L’esercito israeliano ha contestato la ricostruzione, ma nella risposta riportata nell’inchiesta non ha affrontato specificamente la testimonianza sui venti secondi.

Quanto queste fonti denunciano non può essere addomesticato nel linguaggio dell’innovazione. Venti secondi sono meno del tempo che impieghiamo a scegliere una fotografia da pubblicare. Possono diventare il tempo riservato a un controllo dal quale dipende un attacco contro un’abitazione.

Dietro l’espressione «danni collaterali» ci sono persone che avevano un nome prima di diventare una stima. Se una procedura rende accettabile la morte prevista di una famiglia, il problema eccede l’accuratezza del valutatore. Anche un’identificazione tecnicamente corretta lascia aperta la domanda su ciò che si decide di fare a chi si trova intorno al bersaglio.

La precisione è una proprietà di un mezzo. La giustizia riguarda anche il fine, il contesto e le vite che vengono sacrificate. Confonderle permette di presentare come progresso morale una maggiore capacità di colpire. Una macchina può indicare esattamente la casa nella quale stiamo per commettere una strage.

L’integrazione dell’IA nelle strutture militari procede oltre i singoli casi. Un memorandum del Pentagono riportato da Reuters nel marzo 2026 prevedeva di rendere Maven, il sistema di Palantir impiegato per integrare dati e sostenere decisioni operative e di targeting, un programma stabile dell’apparato militare americano. La capacità di elaborazione diventa parte dell’organizzazione ordinaria della guerra.

Il Ministero della Difesa ucraino dichiarava nel maggio 2026 che oltre dieci unità disponevano di una torretta con IA capace di rilevare e seguire droni nemici, lasciando all’operatore la conferma del fuoco. Si tratta di un impiego difensivo contro velivoli, con un intervento umano dichiarato. Proprio per questo è un esempio utile: l’automazione militare avanza anche attraverso compiti immediatamente giustificabili, rendendo ordinaria la delega di una parte crescente del processo.

Per il prossimo futuro, i programmi di velivoli da combattimento senza pilota indicano un’altra direzione. Il YFQ-42A, tornato alle prove di volo nel maggio 2026 secondo il costruttore General Atomics, appartiene al programma americano dei Collaborative Combat Aircraft. È un programma in sperimentazione, non la prova che esistano già flotte pienamente autonome capaci di ogni missione. È però una scelta industriale concreta: investire in piattaforme che riducano la necessità di persone a bordo e aumentino le possibilità di coordinamento automatizzato.

Anche l’Italia, nella strategia della Difesa sull’IA pubblicata nel febbraio 2026, presenta questa trasformazione come un imperativo strategico. Il linguaggio dell’inevitabilità accompagna così la destinazione di risorse e competenze: dobbiamo farlo perché il mondo va in quella direzione. Ma il mondo va in quella direzione anche perché continuiamo a finanziarla.

Il Comitato internazionale della Croce Rossa distingue l’IA usata per analisi, logistica e supporto alle decisioni dalle armi che selezionano e attaccano bersagli senza un ulteriore intervento umano dopo l’attivazione. La distinzione serve a capire dove si trova il potere di decidere. Un algoritmo che suggerisce una lista e un’arma che apre il fuoco non svolgono la stessa funzione; entrambi possono però ridurre lo spazio nel quale una persona comprende e contesta l’azione proposta.

Quanto resta della supervisione se un operatore riceve centinaia di suggerimenti, ha pochi secondi per decidere ed è addestrato a fidarsi del sistema? Il pulsante umano può diventare un’assicurazione morale per l’organizzazione: c’era qualcuno che poteva dire di no. Ma quel qualcuno disponeva delle informazioni, del tempo e dell’autorità necessari?

La prospettiva dei prossimi anni è una compressione ulteriore dei tempi: più sensori, più classificazioni, più piattaforme coordinate, meno occasioni per fermarsi. La promessa militare consiste anche nell’agire prima che l’avversario possa reagire. È precisamente il tempo sottratto alla riflessione che, nella propaganda commerciale, viene venduto come vantaggio universale.

Il 25 agosto 2026, il segretario generale dell’ONU e la presidente del CICR hanno rinnovato l’appello a regole vincolanti sulle armi autonome. Il fatto stesso che debbano rinnovarlo misura la distanza fra l’urgenza umanitaria e il ritmo delle decisioni politiche.

Affinché l’IA contribuisca a una strage non è necessario che si ribelli. Può eseguire con efficacia un obiettivo scelto da esseri umani. Può rendere più facile approvare un attacco, moltiplicare i bersagli, separare chi decide dalle persone che moriranno. La perdita di controllo e l’uso deliberato della violenza sono due pericoli che possono sommarsi. La macchina imprevedibile è terrificante; lo è anche la macchina obbediente dentro un’istituzione che ha già deciso quali vite possono essere sacrificate.

Più pericolosa della bomba atomica?

Il paragone con l’arma nucleare ha autori precisi e significati diversi. Elon Musk scrisse già nell’agosto 2014 che l’IA era «potenzialmente più pericolosa delle armi nucleari», come riportò ABC News. Il riferimento era alla prospettiva di una superintelligenza, discussa nel libro di Nick Bostrom: una capacità superiore a quella umana della quale potremmo non riuscire a conservare il controllo.

Eliezer Yudkowsky, in un intervento su TIME del marzo 2023, assegnava alla prevenzione dell’estinzione provocata dall’IA una priorità persino superiore alla prevenzione di uno scambio nucleare. Arrivava a proporre l’accettazione di rischi militari per impedire addestramenti vietati. Il suo argomento era l’incontrollabilità di una futura intelligenza sovraumana. Questa proposta è inquietante: per scongiurare una possibile catastrofe provocata dall’IA, Yudkowsky arriva ad accettare il rischio di una guerra nucleare. La paura della macchina diventa così una giustificazione per ricorrere alla violenza militare.

Nel maggio 2023, la dichiarazione del Center for AI Safety, firmata fra gli altri da Geoffrey Hinton, Yoshua Bengio, Sam Altman, Dario Amodei e Demis Hassabis, chiedeva di trattare il rischio di estinzione da IA come una priorità globale, accanto a pandemie e guerra nucleare. Questa dichiarazione non affermava che l’IA fosse certamente più pericolosa dell’atomica. Stabiliva un confronto di scala e di urgenza.

Perché il paragone è così inquietante? Un ordigno nucleare concentra una capacità distruttiva immensa. Un’IA sufficientemente capace e dotata di accessi può invece intervenire in molti sistemi, produrre piani, automatizzare operazioni e moltiplicare l’efficacia di chi la usa. Il timore riguarda la combinazione tra adattabilità, diffusione e autonomia. L’International AI Safety Report 2026 esamina rischi di impiego malevolo, anche informatico e biologico, e scenari di perdita di controllo: le conseguenze più estreme restano scenari incerti, ma l’incertezza sulla loro probabilità non costituisce una garanzia di sicurezza.

Il rapporto più pericoloso potrebbe essere proprio quello tra IA e arsenali già esistenti. Se sistemi automatizzati accelerano valutazioni, allarmi o operazioni informatiche in una crisi tra potenze nucleari, un errore può consumare il tempo disponibile per capirlo. Nel settembre 2026, esperti americani e cinesi hanno proposto limiti e strumenti di comunicazione, includendo il rifiuto di decisioni nucleari prese dall'IA. Erano proposte di esperti, non un accordo già adottato dai governi.

Le dichiarazioni di allarme dei dirigenti tecnologici, inoltre, non cancellano la loro responsabilità. Nel luglio 2026, Business Insider riportava un’intervista di Musk all’Economist nella quale, pur evocando la futura perdita di controllo umano, egli dubitava che si dovesse premere un ipotetico pulsante di arresto, in nome della possibile abbondanza prodotta dall’IA. La promessa del premio sopravvive così all’ammissione del pericolo.

Chi ha il diritto di scommettere sulla sopravvivenza altrui in cambio di un futuro che promette di amministrare? E perché dovremmo riconoscere ai proprietari delle infrastrutture il privilegio di stabilire quanto rischio è accettabile per tutti?

L’evocazione dell’estinzione non deve però rendere invisibili i morti del presente. Una famiglia sepolta sotto le macerie non è una voce minore perché il dibattito contempla la fine della specie. Il pericolo dell’IA comprende la catastrofe possibile e la violenza che aiuta già a organizzare. La seconda non può essere messa tra parentesi mentre aspettiamo la prima.

La corsa verso il precipizio

Svalutare se stessi, ingannare, uccidere: il filo che unisce questi verbi è la rinuncia a considerare la persona come misura e limite. A scuola, la formazione può essere sacrificata al prodotto. Nel lavoro, il tempo umano viene giudicato attraverso la velocità della macchina. Nella conversazione, il bisogno di riconoscimento diventa dipendenza da un servizio. Nella guerra, la vita viene compressa dentro una classificazione e una finestra operativa.

Il sistema turbocapitalista e neoliberista ha trovato nell’IA una tecnologia profondamente compatibile con il proprio progetto: rendere ogni attività confrontabile, accelerabile, sostituibile e subordinata alla competizione. La macchina può anche fallire. Il comando sociale, invece, resta: produci di più, adeguati, non perdere terreno.

Per un giovane, questa ingiunzione può diventare una condanna pronunciata prima ancora che abbia avuto il tempo di conoscersi. Se il valore coincide con la prestazione e la prestazione viene misurata contro una macchina, il limite umano appare come una vergogna. Ma una società che insegna a vergognarsi del tempo necessario per crescere sta colpendo le condizioni della fiducia, dell’amicizia e della convivenza.

La promessa di arrivare a fare tutto con l’IA contiene il rischio di arrivare a non saper fare quasi nulla senza di essa. A quel punto, scegliere di non usare l’IA diventerebbe difficile, perché potremmo non saper più svolgere da soli le attività che ci siamo abituati a delegarle. Anzi, in molti casi è già così adesso, senza bisogno di immaginare un futuro lontano. La dipendenza tecnica si trasforma in obbedienza economica e politica. Chi controlla l’accesso al servizio IA può decidere quanto siamo in grado di lavorare, studiare, comunicare e partecipare.

Per questo la domanda «l’essere umano mantiene il controllo?» è insufficiente finché non chiediamo quale essere umano. Il dirigente, il comandante, l’azionista e la persona sottoposta alle loro decisioni non possiedono lo stesso potere. Una macchina perfettamente controllata da pochi può rendere tutti gli altri meno liberi. E una macchina che sfugge anche a quei pochi aggiunge un ulteriore pericolo a una disuguaglianza già presente.

Non vedo una soluzione onesta che eviti il conflitto su proprietà, limiti e fini. Difendere il tempo della formazione significa accettare che qualcosa non venga prodotto immediatamente. Conservare una reale supervisione significa poter fermare un processo redditizio. Impedire una corsa militare significa accettare vincoli anche quando promettono meno vantaggio sul nemico. Ogni volta, il punto è la disponibilità a rinunciare a una parte della potenza.

È qui che la retorica dell’«uso responsabile» incontra ciò che tende a nascondere. La responsabilità costa tempo, denaro, occasioni di sorpasso. Se nessuno può sostenere quel costo senza essere punito dalla competizione, allora dobbiamo cambiare le condizioni della competizione. Predicare virtù individuali lasciando intatto l’obbligo di correre è una forma di assoluzione collettiva.

Abbiamo costruito una corsa nella quale rallentare sembra una sconfitta, anche quando stiamo correndo verso un precipizio. L’IA rende più veloce la corsa e più convincente la voce che ci ordina di continuare. La domanda che resta è se riconosciamo ancora alla vita umana un valore capace di imporre un limite, oppure se abbiamo già deciso che ogni limite debba essere eliminato, anche quando quel limite siamo noi stessi.

(21 settembre 2026)

Classificazione: