La fiducia in ostaggio: l'IA distrugge il patto sociale?

Indice

1. Seimila scuole e una e-mail
2. La fiducia che rende possibile una giornata
3. L’intelligenza artificiale abbassa il costo dell’azione
4. Kit di sopravvivenza: la vulnerabilità entra nelle cose, nelle case e nelle menti
5. Quando diventa sospetto anche ciò che è vero
6. Le parole e il tempo degli altri
7. Dalla protezione al controllo permanente
8. Le persone sostituite e il potere che rimane
9. Chi possiede l’infrastruttura del potere
10. Un futuro gravissimo e imprevedibile
11. Il paradosso di KITT
12. Fonti e riferimenti

(L'IA distrugge il patto sociale, vai alla mia galleria)

1. Seimila scuole e una e-mail

L’11 novembre 2026 una e-mail contenente una minaccia di bomba ha raggiunto circa seimila istituti scolastici italiani, secondo il Ministero dell’Istruzione. In numerose scuole sono scattati controlli ed evacuazioni. Le lezioni si sono interrotte, i genitori sono stati avvertiti, le forze dell’ordine hanno dovuto verificare la situazione. L’aggiornamento serale dell’agenzia ha riferito che gli allarmi erano falsi e che l'e-mail proveniva da un account universitario compromesso.^[1][2]

La forza di questo episodio sta nella sproporzione fra il gesto e le sue conseguenze. Da una parte un messaggio riproducibile a un costo minimo; dall’altra edifici da controllare, persone da proteggere, giornate da riorganizzare. La collettività sostiene un lavoro immenso per chiarire una minaccia che qualcuno ha potuto diffondere con risorse incomparabilmente inferiori.

Una scuola deve poter ricevere comunicazioni. Deve anche prendere sul serio una segnalazione di pericolo. Chi abusa di questa disponibilità usa contro l’istituzione proprio le qualità che la rendono civile: l’accessibilità, l’attenzione verso chi scrive, il dovere di tutelare le persone affidate alle sue cure. La responsabilità del destinatario diventa una risorsa nelle mani dell’aggressore.

Il danno supera la durata dell’emergenza: ogni episodio lascia infatti una domanda nella mente di chi dovrà decidere la volta successiva. Quanto credito accordare alla prossima segnalazione? Quanto personale mobilitare? Quali verifiche imporre prima di consentire l’ingresso? La ripetizione di minacce false può rendere più difficile riconoscere quelle vere e più costoso mantenere aperti i luoghi della vita comune.

Qui il problema della fiducia cambia dimensione. Riguarda la possibilità di accompagnare un figlio a scuola e considerare normale che la giornata prosegua. L’attacco investe quella continuità ordinaria che ci permette di fare progetti senza dover immaginare un’emergenza a ogni passaggio.

2. La fiducia che rende possibile una giornata

La maggior parte della nostra vita dipende da persone delle quali sappiamo pochissimo o nulla. Attraversiamo un ponte senza conoscere chi ne ha verificato la tenuta. Compriamo alimenti confidando che siano stati conservati correttamente. Saliamo su un aereo affidandoci a una rete di competenze che nessuno di noi potrebbe controllare da solo. E soprattutto... usciamo di casa senza temere di essere feriti, gravemente mutilati o uccisi tramite pestaggio (come avviene attualmente nei campi di tortura ucraini finanziati dall'Unione Europea^[21]), parcheggiamo l'auto sotto casa senza timore che di notte venga fatta esplodere, oppure lavoriamo in un negozio senza timore che una banda di delinquenti ce lo distrugga (ogni riferimento alle recenti proteste giovanili in Europa non è casuale).

La società prende forma in questa disponibilità a consegnare agli altri una parte della nostra sicurezza.

La fiducia ci permette di agire mentre molte cose rimangono sconosciute. Se ogni promessa dovesse essere garantita da una prova definitiva e ogni collaborazione sorvegliata in ogni passaggio, vivere insieme diventerebbe estenuante. Regole, competenze e controlli ci consentono di occuparci d’altro. Una società funziona anche grazie alle verifiche che i suoi membri possono ragionevolmente evitare di ripetere.

Questa fiducia elementare ha qualcosa di materiale. La troviamo nella temperatura di una cella frigorifera, nell’apertura di un cancello scolastico, nella continuità di un servizio sanitario. A sostenerla sono persone che svolgono il proprio lavoro e istituzioni che assumono responsabilità riconoscibili. Quando il sistema regge, quasi ci dimentichiamo della sua esistenza.

E' necessario collegare la fiducia alle qualità che la rendono ben riposta: onestà, competenza e affidabilità. Il compito di una società è rendere queste qualità riconoscibili e verificabili. La fiducia cresce quando abbiamo ragioni per accordarla e strumenti per correggerla.^[3]

La destabilizzazione comincia quando il lavoro necessario per continuare a fidarsi aumenta ovunque. Una telefonata richiede un riscontro, un documento un controllo aggiuntivo, un ingresso una nuova autorizzazione. Presi separatamente, questi accorgimenti possono essere ragionevoli. Accumulati, cambiano il modo in cui abitiamo il mondo. La diffidenza finisce per occupare il tempo che prima dedicavamo a lavorare, studiare e stare con gli altri.

3. L’intelligenza artificiale abbassa il costo dell’azione

Su questa fragilità interviene l’intelligenza artificiale. Il suo effetto generale sulle capacità disponibili è già oggetto di valutazioni istituzionali: il Servizio di Ricerca del Parlamento Europeo, in un rapporto del settembre 2026, descrive, in conseguenza dell'IA, un abbassamento delle barriere d’accesso ad alcune forme di criminalità e l’ampliamento della portata delle azioni ostili.^[4]

Il National Cyber Security Centre britannico individua nell’IA un moltiplicatore della velocità, della scala e dell’efficienza delle operazioni informatiche. L’assistenza riguarda attività diverse, dalla raccolta delle informazioni alla produzione di testi e codice. I benefici variano secondo il compito e la preparazione di chi usa gli strumenti; gli operatori più esperti possono ottenere vantaggi particolarmente consistenti.^[5]

Per una parte delle attività, tuttavia, si riduce la quantità di competenze che bisogna possedere prima di cominciare. Un assistente IA può aiutare a ricercare e organizzare informazioni pubbliche, tradurre messaggi, svolgere compiti ripetitivi. Operazioni che richiedevano tempo, pratica o più collaboratori diventano accessibili a un numero maggiore di persone. In questo senso l’IA amplia anche la capacità di nuocere da parte di soggetti dotati di mezzi limitati.

La novità sociale emerge dalla combinazione di accessibilità e scala. Un’azione molesta può restare un episodio locale quando richiede molto lavoro per ogni destinatario. La possibilità di ripeterla a costi decrescenti ne cambia la natura. Un’intera rete di istituzioni può trovarsi a rispondere contemporaneamente a un’iniziativa ostile e dannosa condotta da pochissimi individui, o anche da uno solo.

L’IA agisce così su un’asimmetria già presente nella società connessa. Produrre un messaggio ingannevole può essere rapido; stabilire che sia falso richiede verifiche. Chi riceve una minaccia deve valutare anche le conseguenze di un errore. L’aggressore può quindi imporre lavoro agli altri senza dover dimostrare di possedere la capacità distruttiva che dichiara.

Questo trasferimento di costi aiuta a capire la gravità del cambiamento. Una tecnologia viene presentata come strumento per risparmiare tempo, mentre alcuni suoi impieghi possono consumare il tempo di una comunità intera. Il guadagno privato di chi automatizza si trasforma in una spesa collettiva di attenzione, denaro e tranquillità.

4. Kit di sopravvivenza: la vulnerabilità entra nelle cose, nelle case e nelle menti

La cronaca europea delle ultime settimane mostra quanto questa vulnerabilità sia vicina alla vita materiale. Il 5 novembre 2026 un’ondata di falsi allarmi bomba ha interessato una ventina di aerei, almeno sette dei quali in partenza o in arrivo in Italia. Ci sono state deviazioni verso altri aeroporti, interventi di caccia militari e disagi per i passeggeri.^[6]

Un’informazione falsa può dunque modificare una rotta vera. Il carburante consumato, il lavoro degli equipaggi e la mobilitazione dei soccorsi appartengono al mondo fisico. Anche la paura attraversata da chi è a bordo rimane un’esperienza reale, una volta conclusi i controlli. La falsità del messaggio convive con la concretezza delle sue conseguenze.

All’inizio di novembre ci sono stati anche attacchi ai sistemi di refrigerazione di supermercati in diversi paesi europei. Le alterazioni del funzionamento degli impianti hanno fatto salire le temperature, con conseguente obbligo di distruggere il cibo non più vendibile. Il Commissario Europeo all’Agricoltura Christophe Hansen ha interpretato gli episodi come un tentativo di colpire la catena alimentare e la fiducia dei consumatori.^[7] Già il 12 ottobre il CERT-FR aveva segnalato numerose compromissioni dei controllori remoti degli impianti di refrigerazione.^[8]

Il funzionamento dei frigoriferi, ormai non più oggetti a sé stanti, ma interconnessi in una rete di IoT (Internet delle Cose), che è strutturalmente debole, difficile da aggiornare e da mettere in sicurezza, e facilmente attaccabile con l'IA, rende immediatamente comprensibile la posta in gioco. Un alimento è esposto in un negozio e il consumatore presume che la sua storia sia compatibile con il consumo. La catena del freddo sostiene questa assunzione, quindi colpirla significa rendere incerta una garanzia incorporata in un gesto quotidiano. Anche chi ignora il funzionamento delle reti informatiche dipende necessariamente dalla loro sicurezza.

Il caso del Tunnel del Brennero riguarda un’altra forma di esposizione, nello specifico di furto di dati. Nell’aggiornamento del 9 novembre, BBT SE ha indicato che l’intrusione del 17 ottobre aveva interessato un server usato per lo scambio di documenti con gli affidatari italiani. I dati comprendevano documentazione tecnica e amministrativa, in maggioranza già pubblica. La società ha comunicato l’isolamento dei sistemi interessati e la prosecuzione regolare delle attività e dei lavori.^[9]

Scuole, trasporti, alimentazione e grandi opere si reggono su reti di persone, dati e responsabilità. L’integrazione digitale rende possibili servizi efficienti e, insieme, crea punti dai quali una minaccia può propagarsi. La fiducia di base dipende dalla capacità di proteggere queste connessioni e di contenere gli incidenti quando si verificano.

Il rischio di lungo periodo è che l’eccezione diventi un’aspettativa ordinaria. Ci si abitua a mettere in conto una chiusura improvvisa, una verifica supplementare, un sospetto sulla sicurezza di ciò che si compra. La normalità perde consistenza. Vivere richiede una preparazione continua all’interruzione, alle emergenze e, ahinoi, anche alla possibilità di ferimenti e omicidi all'interno di un millantato contesto bellico, con i vari kit europei per sovravvivere tre giorni in assenza di acqua, corrente elettrica e gas.^[20]

Comunque, per la nostra tranquillità e serenità emotiva, la Commissione Europea ci chiede "soltanto" (?!) di tenerci continuamente pronti a:

• terremoti;
• alluvioni;
• eventi climatici estremi;
• emergenze sanitarie;
• conflitti armati;
• sabotaggi;
• attacchi informatici.

Tutto qua, per ora. In futuro potrebbero essere aggiunti all’elenco altri possibili casi d'uso del kit di sopravvivenza:

• tsunami da 500 metri in su;
• esplosioni vulcaniche con squarciamento della crosta terrestre;
• piogge di meteoriti grandi come campi di calcio;
• risvegli di mostri abissali;
• invasioni aliene;
• epidemie di morti viventi;
• inversioni improvvise della gravità;
• collisioni planetarie;
• aperture accidentali degli Inferi;
• interruzioni nell’erogazione della luce solare;
• collassi dello spazio-tempo;
• la fine del mondo;
• il Giudizio Universale.

Salvo ulteriori aggiornamenti, nel frattempo la Commissione Europea raccomanda di conservare la serenità in un luogo fresco e asciutto, accanto alle scatolette.

5. Quando diventa sospetto anche ciò che è vero

L’IA generativa esercita una pressione ulteriore sui criteri con cui riconosciamo una comunicazione credibile. Una voce familiare, un’immagine nitida e un testo ben costruito possono essere prodotti artificialmente. Diventa più difficile capire quali qualità dell’autore siano davvero testimoniate da quei segnali.

Un esperimento di Cristian Vaccari e Andrew Chadwick, pubblicato nel 2020 e condotto su 2.005 partecipanti nel Regno Unito, ha esaminato le reazioni a un video manipolato di Barack Obama. Il video falso lasciava più persone nel dubbio di quante riuscisse a ingannare. Le versioni ingannevoli alimentavano dubbi attraverso i quali si osservava una riduzione della fiducia nelle notizie sui social.^[10]

L’effetto più corrosivo può essere proprio questa perdita di orientamento. Dopo aver incontrato una falsificazione, siamo costretti a riconsiderare ciò che vedremo in seguito. Il prezzo dell’inganno viene pagato anche dalle comunicazioni sincere, alle quali sarà chiesta una prova aggiuntiva.

Bobby Chesney e Danielle Citron hanno chiamato “dividendo del bugiardo” (cioè "vantaggio per chi mente") il dubbio sollevato dalla possibilità di contestare una prova autentica appellandosi all’esistenza dei deepfake (cioè di contenuti falsi ma realistici creati con l'IA). La manipolabilità dei contenuti offre una risorsa a chi vuole negare le proprie azioni.^[11] Gli esperimenti di Kaylyn Jackson Schiff e colleghi hanno riscontrato benefici soprattutto contro resoconti testuali di scandali; le prove video conservavano una maggiore resistenza alle smentite ingannevoli.^[12]

Per la vita democratica, il costo sta nel dover tornare continuamente alla premessa della discussione. Prima di valutare una responsabilità, occorre stabilire se il fatto sia avvenuto. Quando ogni riscontro può essere respinto come un’ulteriore falsificazione, la verifica rischia di trasformarsi in un rinvio senza fine.

Si può così arrivare a una convivenza apparentemente paradossale: diffidiamo di quasi tutto e continuiamo ad affidarci a qualcuno. La fiducia si restringe alle cerchie già familiari, alle voci che confermano le nostre convinzioni, alle autorità capaci di promettere un ordine. La sfiducia diffusa può diventare il terreno sul quale cresce una dipendenza più concentrata.

6. Le parole e il tempo degli altri

La stessa tensione entra nelle relazioni più vicine. Immaginiamo di ricevere un messaggio di conforto dopo una perdita. Le parole sono appropriate, il tono delicato. Sapere che sono state elaborate con l’IA potrebbe lasciarci indifferenti oppure ferirci. Dipende anche da ciò che credevamo di ricevere: il segno che qualcuno si era fermato a pensare a noi?

Nelle parole cerchiamo informazioni sulla relazione. Una risposta può indicare attenzione, disponibilità ad affrontare un disagio, tempo dedicato a comprendere. Quando la produzione del messaggio viene delegata, questi significati diventano meno sicuri. Il testo rimane davanti a noi e il gesto che gli attribuivamo cambia consistenza.

Una ricerca di Jess Hohenstein e colleghi, pubblicata nel 2023, ha mostrato che l’uso di risposte suggerite automaticamente poteva migliorare il tono delle conversazioni e le valutazioni reciproche. Il sospetto che l’interlocutore ricorresse a quei suggerimenti era invece associato a giudizi meno favorevoli.^[13] In un esperimento del 2024, Yidan Yin, Nan Jia e Cheryl Wakslak hanno rilevato che i messaggi generati dall’IA potevano far sentire i destinatari più ascoltati, mentre l’etichetta che ne dichiarava l’origine artificiale riduceva quel beneficio.^[14]

Una scusa ben formulata può lasciare aperta la domanda decisiva: chi la pronuncia ha compreso il danno? La risposta si trova anche nei comportamenti successivi. Ci fidiamo di un impegno quando lo ritroviamo nel tempo, quando l’altro si ricorda, torna sull’argomento, accetta una conseguenza.

L’assistenza linguistica può aiutare una persona a esprimere un’intenzione autentica. Chi fatica a scrivere, è timido o usa una lingua straniera può trovare parole più adatte a ciò che prova. In due esperimenti pubblicati nel 2025, Zoe Purcell e colleghi hanno osservato che l’aiuto dell’IA consentiva di comporre più rapidamente messaggi capaci di suscitare fiducia in giochi economici fra sconosciuti, con effetti minimi sulla fiducia stessa anche quando l’assistenza veniva dichiarata.^[15]

Conta dunque quale parte dell’incontro viene affidata alla macchina e quale responsabilità rimane alla persona. L’aiuto può rendere più accessibile la comunicazione. La simulazione di un’attenzione che nessuno ha prestato altera invece il rapporto: offre al destinatario un’informazione ingannevole su quanto l’altro si sia coinvolto.

Questo chiarisce anche la portata della fiducia reciproca. Un rapporto umano comprende la possibilità di chiedere qualcosa all’altro e di essere interpellati a nostra volta. Quando l’interazione diventa un servizio automatico, occorre capire dove sia finita quella reciprocità e chi continui ad assumere gli obblighi che il linguaggio suggerisce.

7. Dalla protezione al controllo permanente

La ripetizione delle minacce può spingere le istituzioni verso una risposta prevedibile: aumentare controlli, identificazioni e sorveglianza. Ogni intervento viene giustificato da un’esigenza concreta. La loro somma può però produrre una trasformazione politica: gli spazi della vita civile diventano ambienti nei quali bisogna dimostrare continuamente di avere titolo a entrare, muoversi e restare.

Si può immaginare una scuola organizzata intorno alla prevenzione dell’intrusione, un ospedale nel quale l’accesso sia subordinato a una catena crescente di autorizzazioni, un luogo di lavoro che registri e valuti ogni comportamento. In questo scenario, le persone vengono trattate anzitutto come possibili fonti di rischio. Il rapporto con l’istituzione comincia da una verifica di sospetto.

L’organizzazione della vita quotidiana intorno alla sicurezza può irrigidirsi in controlli continui e classificazioni preventive, fino ad assumere forme apertamente militarizzate, con presidi armati e barriere. L’apertura degli spazi viene subordinata alla capacità di sorvegliarli. Studiare, curarsi e lavorare diventano attività svolte dentro un perimetro di autorizzazioni.

Il rischio è stato indicato anche da esperti indipendenti delle Nazioni Unite. In una dichiarazione del 27 aprile 2026, hanno descritto la diffusione di sistemi di sorveglianza sostenuti da collaborazioni opache fra stati, sviluppatori commerciali e intermediari dei dati. L’impiego abusivo dell’IA può ampliare il monitoraggio del dissenso e generare un clima intimidatorio per la partecipazione civile.^[16]

Il problema della fiducia si presenta allora capovolto. All’istituzione viene concessa la facoltà di conoscere sempre di più; al cittadino viene chiesto di rendersi sempre più leggibile. La trasparenza tende a essere pretesa dalla parte meno potente. Le ragioni del controllo, i criteri usati e le possibilità di contestarli possono restare molto meno accessibili.

Si forma così un possibile circuito: la minaccia alimenta paura, la paura accresce la domanda di protezione, la protezione estende i dispositivi di controllo. L’IA può intervenire su entrambi i lati, potenziando alcune capacità offensive e rendendo più economica una sorveglianza estesa. Le scelte politiche determinano quanto questo circuito venga interrotto o consolidato.

8. Le persone sostituite e il potere che rimane

La sostituzione di esseri umani con sistemi automatici acquista un significato particolare in questo contesto. Se un poliziotto viene sostituito da un robot, un insegnante da un sistema di istruzione automatizzata, un medico da un’interfaccia diagnostica, cambia anche il soggetto al quale possiamo rivolgere un’obiezione. Ogni professione contiene una relazione con chi riceve il servizio.

Un insegnante può riconoscere che il silenzio di un alunno esprime una difficoltà. Un medico può riconsiderare una prima interpretazione ascoltando un dettaglio inatteso. Un lavoratore esperto può accorgersi che una procedura formalmente corretta sta producendo un risultato sbagliato. Queste possibilità dipendono da condizioni concrete di tempo, formazione e autonomia professionale.

Quando l’automazione serve soprattutto a ridurre la presenza umana e il margine di giudizio, il rapporto tende a irrigidirsi. La persona viene invitata ad adattare il proprio caso alle categorie disponibili. Il bisogno di parlare con qualcuno che possa decidere diventa una richiesta difficile da soddisfare.

Il passaggio può avvenire anche attraverso software che dirigono persone ancora presenti. Un’indagine dell’OCSE pubblicata nel 2025, su oltre seimila imprese in sei paesi compresa l’Italia, ha esaminato strumenti di gestione algoritmica del lavoro. Fra le preoccupazioni espresse dai dirigenti figuravano responsabilità poco chiare, difficoltà a seguire la logica dei sistemi e protezione insufficiente della salute dei lavoratori.^[17]

In fabbrica, la sostituzione di lavoratori investe anche il loro ruolo sociale. Il lavoro dà reddito, capacità di organizzarsi, possibilità di negoziare e riconoscimento reciproco. Se le macchine sostituiscono il lavoro umano e restano sotto il controllo di poche aziende, queste possono produrre di più, mentre i lavoratori "rimanenti" rischiano di avere meno forza per ottenere salari adeguati e condizioni di lavoro migliori, o almeno decenti.

Il rischio più grave è una società in cui scuole, ospedali e uffici pubblici continuano a fornire servizi, mentre diventa sempre più difficile trovare una persona che ascolti un problema e possa cambiare una decisione. Si ricevono risposte automatiche e ci si deve adattare alle procedure, anche quando queste ignorano la situazione concreta di chi chiede aiuto. Le istituzioni continuano così a decidere sulla nostra vita, mentre noi abbiamo sempre meno possibilità di farci ascoltare e di influire sulle loro scelte.

Per evitare questo esito, l’automazione deve lasciare riconoscibile il luogo della responsabilità. Una macchina può assistere una decisione. Qualcuno deve restare raggiungibile da chi ne subisce gli effetti e avere l’autorità per modificarla.

9. Chi possiede l’infrastruttura del potere

La questione decisiva riguarda quindi la proprietà e il controllo. Chi stabilisce gli obiettivi dei sistemi? Chi decide quali dati raccogliere e quali comportamenti considerare anomali? Quanto costa a un’istituzione cambiare fornitore? Che cosa accade quando strumenti diventati essenziali dipendono da soggetti sui quali i cittadini hanno un’influenza minima?

Nel gennaio 2025, la Federal Trade Commission, l’autorità statunitense che vigila sulla concorrenza, ha esaminato gli accordi di Microsoft con OpenAI e quelli di Amazon e Google con Anthropic. In questi accordi, Microsoft, Amazon e Google svolgono un doppio ruolo: finanziano le aziende che sviluppano l’IA e vendono loro l’accesso ai server e alla potenza di calcolo necessari. Alcuni contratti prevedono che le aziende finanziate spendano una parte consistente del denaro ricevuto per acquistare i servizi del finanziatore stesso. Una parte dei soldi torna quindi a chi li ha investiti, come pagamento per i suoi servizi.

Il rapporto descrive anche clausole che permettono al finanziatore di influenzare le scelte dell’azienda finanziata, accedere a informazioni riservate e limitarne la possibilità di rivolgersi ad altri fornitori. Secondo la FTC, questi legami possono rendere più difficile e costoso cambiare fornitore e dare alle aziende coinvolte vantaggi rispetto ai concorrenti, grazie all’accesso privilegiato alla potenza di calcolo e alle informazioni commerciali.^[18]

Su questa base si può sviluppare una conseguenza politica. Un’organizzazione che affida funzioni essenziali a un’infrastruttura difficile da sostituire perde una parte della propria autonomia. Se tale dipendenza riguarda molte organizzazioni, il potere del fornitore acquista una dimensione collettiva. Condizioni contrattuali e scelte tecniche finiscono per incidere sul modo in cui intere comunità accedono ai servizi.

Gli accordi descritti dalla FTC mostrano come le aziende che sviluppano l’IA possano dipendere da pochi grandi fornitori sia per il denaro sia per la potenza di calcolo. Se scuole, ospedali, imprese e amministrazioni affidano funzioni importanti ai loro sistemi, questa dipendenza può estendersi a una parte crescente della società. Diventa allora decisivo chi stabilisce come funzionano questi strumenti, quali dati raccolgono e a quali condizioni possiamo utilizzarli. Il potere economico dei fornitori può così tradursi in una crescente influenza sull’organizzazione della nostra vita quotidiana.

Il controllo di queste tecnologie conta anche perché l’IA può influenzare le opinioni attraverso il dialogo. In uno studio pubblicato nel 2025, Francesco Salvi e colleghi hanno fatto partecipare alcune persone a brevi dibattiti con un altro essere umano oppure con GPT-4. Il modello, quando disponeva di alcune informazioni personali di base sull’interlocutore, risultava più efficace nel fargli cambiare opinione rispetto a una persona che discuteva senza quelle informazioni^[19]. Qui emerge un ulteriore rischio: un assistente al quale chiediamo spiegazioni e consigli potrebbe essere progettato per favorire gli interessi commerciali o politici di chi lo gestisce. La fiducia che gli accordiamo diventerebbe uno strumento per orientare le nostre scelte.

Nello scenario più preoccupante, queste capacità vengono impiegate per convincerci ad accettare controlli sempre più estesi. Dopo un allarme bomba o un attacco informatico, la promessa di maggiore sicurezza può spingerci a consegnare più dati, accettare la registrazione dei nostri spostamenti e sottoporci a verifiche continue. Se ogni nuova minaccia giustifica un’ulteriore misura di sorveglianza, allora lavorare, studiare, viaggiare e curarsi possono diventare attività subordinate a controlli sempre più invasivi. La paura può così rendere accettabili limitazioni della libertà che, in altre circostanze, incontrerebbero una forte opposizione.

In un simile scenario, gli interessi di un governo e quelli di un’impresa tecnologica possono incontrarsi. Un governo intenzionato a sorvegliare più strettamente la popolazione può acquistare sistemi capaci di raccogliere e analizzare grandi quantità di dati. L’impresa che li fornisce ottiene ricavi e contratti duraturi. Se quei sistemi diventano indispensabili e sostituirli risulta troppo costoso o complicato, anche l’amministrazione pubblica finisce per dipendere dal fornitore. La richiesta di sicurezza può quindi rafforzare contemporaneamente il controllo politico sui cittadini e il potere economico delle aziende.

Chiedere chi tragga vantaggio dalla paura significa esaminare questi rapporti concreti: chi ottiene i contratti, quali poteri riceve, quali dati può utilizzare e quanto sia difficile rinunciare ai suoi servizi. Significa anche verificare chi risponde degli errori e degli abusi e come una persona possa contestare una decisione che la riguarda. Rendere pubblici gli accordi, sottoporli a controlli indipendenti e garantire la possibilità di cambiare fornitore sono modi concreti per limitare questo potere e difendere l’autonomia dei cittadini.

10. Un futuro gravissimo e imprevedibile

Una società può disporre di strumenti sempre più potenti per sorvegliare e amministrare la vita delle persone, mentre i cittadini si fidano meno gli uni degli altri, hanno meno libertà e incontrano maggiori difficoltà a far valere le proprie esigenze.

È difficile prevedere come evolverà questa situazione, perché lo sviluppo dell’IA, il suo uso da parte dei criminali e le risposte delle istituzioni e dei cittadini si influenzano continuamente. Un nuovo tipo di attacco può spingere un governo a introdurre altri controlli e indurre le persone a cambiare abitudini. Anche un singolo falso allarme può diventare il motivo per adottare misure di sorveglianza destinate a durare anni. Una risposta tempestiva e ben organizzata può contenere i danni, evitare interruzioni prolungate dei servizi e ridurre la paura.

Le conseguenze politiche dipendono anche da come viene raccontata l’emergenza e da quali soluzioni riescono a ottenere consenso. Se un governo o un’impresa convince la popolazione che una sorveglianza continua sia indispensabile per vivere al sicuro, diventa più facile far accettare nuove limitazioni della libertà. Chi riesce a far prevalere questa interpretazione può quindi influenzare decisioni destinate a incidere sulla vita di tutti anche dopo la fine dell’emergenza.

Esiste poi un rischio di adattamento silenzioso. Ci si abitua gradualmente a giustificare ogni movimento (come durante la dichiarata pandemia di Covid-19), a essere valutati da procedure inaccessibili, a rinunciare alla conversazione con una persona competente. Ciò che avrebbe suscitato resistenza può diventare il prezzo ordinario per accedere a un servizio. La trasformazione più profonda potrebbe essere riconosciuta soltanto dopo essersi consolidata.

Proprio l’incertezza rende preziose le decisioni reversibili, la pluralità dei fornitori, la conservazione delle competenze umane e il controllo democratico delle infrastrutture. Una società che mantiene queste possibilità dispone di più modi per correggersi. Una società interamente dipendente da apparati chiusi rischia di scoprire i propri errori quando è già diventato difficile uscirne.

11. Il paradosso di KITT

Nel film Supercar 2000, del 1991, l'IA KITT si trova a dover ammettere un suo malfunzionamento proprio in un momento critico, in cui sarebbe assolutamente necessaria una garanzia sul suo funzionamento. KITT risponde restituendo agli esseri umani il peso della decisione:

«Mi dispiace, ma sfortunatamente noi povere macchine possiamo contare solo sull'intelligenza umana».

L’ironia conserva una forza particolare. Una macchina presentata come straordinariamente intelligente riconosce il momento in cui occorre tornare a noi. È facile sorridere della vulnerabilità tecnologica. Più difficile è accettare la responsabilità che quella frase ci riconsegna.

Giudicare significa decidere quali rischi accettare, quali fini perseguire e quali obblighi assumere verso gli altri. Significa anche stabilire quando un miglioramento delle prestazioni impoverisce la relazione nella quale viene introdotto. Queste decisioni prendono forma dentro una società e distribuiscono potere fra persone reali.

Possiamo costruire sistemi capaci di accelerare le nostre azioni. Dobbiamo ancora scegliere quali azioni meritino di essere accelerate. Possiamo rendere più economica la sorveglianza e più convincente una voce artificiale. Rimane da decidere quale spazio lasciare alla libertà e come rendere riconoscibile un impegno sincero.

La fiducia sopravvive dove le persone hanno buone ragioni per affidarsi le une alle altre e una possibilità concreta di chiedere conto dei tradimenti. Proteggerla richiede soprattutto che continuiamo a considerarci interlocutori, capaci di comprendere e di essere compresi.

Le macchine possono moltiplicare ciò che siamo in grado di fare. La qualità della convivenza dipenderà dal giudizio con cui useremo quella potenza. Nella battuta di KITT, la parola più impegnativa resta “umano”.

12. Fonti e riferimenti

1. ANSA, 11 novembre 2026, Ministero, mail con l’allarme bomba arrivata a circa 6mila scuole.
2. ANSA, aggiornamento dell’11 novembre 2026, ore 21:20, L’allarme bomba in 6.000 scuole italiane.
3. Onora O’Neill, 2018, Linking Trust to Trustworthiness, International Journal of Philosophical Studies, 26(2), 293–300.
4. Martina Prpic, Servizio di ricerca del Parlamento Europeo, 30 settembre 2026, Artificial intelligence and crime.
5. National Cyber Security Centre, Annual Review 2026, The impact of AI on cyber threat.
6. ANSA, 5 novembre 2026, aggiornato il 6 novembre, Ondata di allarmi bomba sui voli in Europa, caos e jet in azione.
7. ANSA, 2 novembre 2026, Ondata di cyberattacchi ai supermarket europei, frigoriferi in tilt.
8. CERT-FR, 12 ottobre 2026, aggiornato il 16 ottobre, Incident de sécurité ciblant les contrôleurs à distance des installations de réfrigération, CERTFR-2026-ALE-012.
9. ANSA, 9 novembre 2026, Cyberattacco al Tunnel del Brennero, molti documenti sono pubblici.
10. Cristian Vaccari e Andrew Chadwick, 2020, Deepfakes and Disinformation: Exploring the Impact of Synthetic Political Video on Deception, Uncertainty, and Trust in News, Social Media + Society.
11. Bobby Chesney e Danielle Citron, 2019, Deep Fakes: A Looming Challenge for Privacy, Democracy, and National Security, California Law Review, 107.
12. Kaylyn Jackson Schiff, Daniel S. Schiff e Natália S. Bueno, 2025, prima pubblicazione online 2024, The Liar’s Dividend: Can Politicians Claim Misinformation to Evade Accountability?, American Political Science Review, 119(1), 71–90.
13. Jess Hohenstein e colleghi, 2023, Artificial intelligence in communication impacts language and social relationships, Scientific Reports, 13, 5487.
14. Yidan Yin, Nan Jia e Cheryl J. Wakslak, 2024, AI can help people feel heard, but an AI label diminishes this impact, PNAS, 121(14), e2319112121.
15. Zoe A. Purcell e colleghi, 2025, Writing with AI boosts trust-building efficiency, iScience, 28(12), 114092.
16. Esperti indipendenti delle Nazioni Unite, 27 aprile 2026, Safeguard human freedoms from systematic digital interference, surveillance and chilling effects on civic space, dichiarazione pubblicata dall’OHCHR.
17. OCSE, 6 febbraio 2025, Algorithmic management in the workplace.
18. Federal Trade Commission, 17 gennaio 2025, Staff Report on AI Partnerships & Investments Study, presentazione dei risultati e collegamento al rapporto.
19. Francesco Salvi, Manoel Horta Ribeiro, Riccardo Gallotti e Robert West, 2025, On the conversational persuasiveness of GPT-4, Nature Human Behaviour, 9, 1645–1653.
20. EuropaToday, 10 novembre 2026, Kit sopravvivenza 72 ore anche in Italia: cosa prevede il piano Ue
21. Nicolai Lilin, 4 novembre 2026, A Kiev è scoperto il carcere degli orrori - L’ennesimo eclatante crimine del regime di Zelenskij

(12 novembre 2026)