Informatica Libera - Francesco Galgani's Blog

Mia traduzione di To Gen or Not To Gen: The Ethical Use of Generative AI, pubblicato da Johannes Link.

Questo post è nato come traduzione di un articolo che il mio collega Jakob e io abbiamo scritto per una rivista tedesca. In seguito abbiamo aggiunto altro materiale e lo abbiamo arricchito con ulteriori riferimenti e fonti. Il nostro obiettivo è offrire una panoramica di molti, anche se non tutti, gli aspetti che abbiamo imparato sulla GenAI e che consideriamo rilevanti per formarsi un'opinione etica informata. Quanto alla profondità dell'informazione, ci limitiamo a scalfire la superficie; speriamo che la grande quantità di riferimenti possa aiutarti ad approfondire dove vorrai. Poiché siamo entrambi sviluppatori software, il nostro punto di vista è parziale e distorto. Tieni anche presente che qualsiasi testo su un tema “caldo” come questo non è altro che una fotografia di ciò che pensiamo di sapere oggi. Quando lo leggerai, la conoscenza e le opinioni degli autori saranno già cambiate.

Ultimo aggiornamento: 17 gennaio 2026.

Indice

• Sintesi
• Chi siamo
  • Johannes Link
  • Jakob Schnell
• Introduzione
  • Etica: che cosa significa davvero?
  • Chiarimento dei termini
• Fondamenti
  • Gli LLM possono pensare?
  • In che cosa gli LLM sono efficaci
  • La GenAI come fonte di conoscenza
  • La GenAI nello sviluppo software
  • Benefici reali e benefici promessi
• Aspetti dannosi della GenAI
  • La GenAI è un disastro ecologico
    • Energia
    • Acqua
    • Rifiuti elettronici
  • La GenAI minaccia istruzione e scienza
  • La GenAI sta distruggendo l'internet libero.
  • La GenAI è un pericolo per la democrazia
  • GenAI contro creatività umana
  • Colonialismo digitale
  • Aspetti politici
• Conclusione
  • Può esistere una GenAI etica?
  • Come agire in modo etico

Sintesi

ChatGPT, Gemini, Copilot. Il numero di applicazioni e modelli di IA generativa (GenAI) cresce ogni giorno. Nel campo dello sviluppo software in particolare, generazione di codice, assistenti alla programmazione e vibe coding sono sulla bocca di tutti. Come ogni tecnologia, la GenAI ha due facce. Alle grandi promesse fanno da contrappeso numerosi svantaggi: un immenso consumo di energia, montagne di rifiuti elettronici, la proliferazione della disinformazione su internet e la gestione discutibile della proprietà intellettuale sono solo alcuni dei molti aspetti negativi. Un comportamento eticamente responsabile richiede di guardare a tutti i vantaggi, gli svantaggi e i danni collaterali di una tecnologia prima di usarla o raccomandarne l'uso ad altri.

In questo articolo esaminiamo entrambe le facce e arriviamo infine alla nostra risposta personale e naturalmente soggettiva alla domanda se e come la GenAI possa essere usata in modo etico.

Chi siamo

Johannes Link

... programma da oltre 40 anni, 30 dei quali professionalmente. Dalla fine del secolo scorso, l'extreme programming e altri approcci allo sviluppo software centrati sulle persone sono al centro del suo lavoro. La realizzazione sensata ed etica della sua vita privata e professionale è da anni la sua forza motrice. Si occupa di GenAI fin dai primi giorni dei modelli linguistici GPT di OpenAI. Maggiori informazioni su Johannes si trovano su https://johanneslink.net.

Jakob Schnell

... ha studiato matematica e informatica e lavora come sviluppatore software da 5 anni. Lavora come docente e responsabile di corsi in contesti universitari ed extra-universitari. Come educatore giovanile, entra regolarmente in contatto anche con la vita di bambini e adolescenti. In tutti questi ambienti osserva l'uso crescente della GenAI e il suo impatto sulle persone.

Introduzione

Etica: che cosa significa davvero?

Comportamento etico suona come il titolo di un noioso seminario universitario. Tuttavia, se si guarda la voce di Wikipedia sul termine ¹, si scopre che ‘il modo in cui gli individui si comportano quando si trovano di fronte a dilemmi etici’ è al centro della definizione. Si tratta quindi di noi esseri umani che ci assumiamo responsabilità e valutiamo se e come fare o non fare certe cose sulla base dei nostri valori.

Dobbiamo porci domande etiche nel nostro lavoro perché tutte le tecnologie che usiamo e promuoviamo hanno un impatto su di noi e sugli altri. Perciò non sono né neutrali né prive di alternative. Si tratta di soppesare vantaggi e potenziale rispetto a danni e rischi; e questo vale per tutti, non solo per noi personalmente. Perché spesso chi beneficia di uno sviluppo è diverso da chi ne subisce le conseguenze.

Come individui e come società, abbiamo il diritto di decidere se e come vogliamo usare le tecnologie. Idealmente, dovremmo farlo in modo da portare beneficio a tutti; ma in nessun caso in modo da favorire un piccolo gruppo danneggiando la maggioranza.

Il punto cruciale è che il comportamento etico non è gratuito. L'etica non è efficiente e non aumenta il tuo profitto economico. Questo significa che, agendo secondo i tuoi valori, prima o poi dovrai rinunciare a qualcosa. Se non sei disposto a farlo, non hai valori: hai solo opinioni.

Chiarimento dei termini

Quando scriviamo ‘IA generativa’ (GenAI), ci riferiamo a un sottoinsieme molto specifico delle molte tecniche e dei molti approcci che rientrano nel termine ‘intelligenza artificiale’. A rigore, si tratta di una varietà di approcci molto diversi che vanno dalla logica simbolica, passano per la pianificazione automatica e arrivano al vasto campo del machine learning (ML). Oggi la maggior parte degli sforzi, dell'entusiasmo e del denaro confluisce nel deep learning (DL): un sottocampo del ML che usa reti neurali artificiali multistrato per scoprire correlazioni statistiche (cioè pattern) basate su enormi quantità di dati di addestramento, così da riprodurre in seguito quei pattern.

I large language model (LLM) e i metodi correlati per generare immagini, video e parlato rendono ora possibile applicare questa idea a dati completamente non strutturati. Mentre i metodi tradizionali di ML spesso se la cavavano con poche decine di parametri, questi modelli lavorano ormai con diversi trilioni (10^12) di parametri. Per ottenere i risultati desiderati, sia la quantità di dati di addestramento sia la durata dell'addestramento devono aumentare di parecchi ordini di grandezza.

Questo ci porta alla definizione di ciò che intendiamo con ‘GenAI’ in questo articolo: modelli iperscalati che possono essere sviluppati, addestrati e distribuiti solo da una manciata di aziende al mondo. Si tratta principalmente dei servizi GenAI forniti da OpenAI, Anthropic, Google e Microsoft, o basati su questi servizi. Ci concentriamo inoltre soprattutto sui modelli linguistici; la generazione di immagini, video, parlato e musica ha solo un ruolo marginale in questo articolo.

La nostra attenzione ai servizi iperscalati non significa che altri metodi di ML siano privi di problemi etici; tuttavia qui abbiamo a che fare con un ordine di grandezza completamente diverso di danni e rischi. Per esempio, esistono varianti di GenAI che usano tecniche uguali o simili, ma su scala molto più piccola e in domini circoscritti (per esempio AlphaFold ²). Questi approcci tendono a portare più valore con meno svantaggi.

Fondamenti

I modelli GenAI sono progettati per interpolare ed estrapolare ³, cioè per colmare i vuoti tra i dati di addestramento e speculare oltre i limiti di quei dati. Insieme alla natura stocastica dei dati di addestramento, questo produce alcune proprietà interessanti:

• I modelli GenAI ‘inventano’ risposte; con gli LLM ci piace chiamarle ‘allucinazioni’.
• I modelli GenAI non sanno che cosa è vero o falso, buono o cattivo, efficiente o efficace, ma solo che cosa è statisticamente probabile o improbabile in relazione ai dati di addestramento, al contesto e alla richiesta (cioè al prompt).
• I modelli GenAI non possono spiegare il proprio output; non hanno capacità di introspezione. Ciò che viene venduto come introspezione è solo altro output, con l'output precedente reimmesso nel sistema.
• I modelli GenAI non imparano da te; attingono solo al loro materiale di addestramento. L'esperienza di apprendimento è simulata reinserendo l'input precedente nel contesto di una conversazione ⁴.
• Il contesto, cioè l'insieme dei parametri di input forniti, è decisivo per l'accuratezza del risultato generato, ma può anche orientare il modello nella direzione sbagliata. Aumentare la finestra di contesto rende una richiesta molto più onerosa dal punto di vista computazionale, probabilmente in modo quadratico. Perciò l'aumento promesso della “finestra di contesto massima” di molti modelli è per lo più fittizio ⁵.
• L'affidabilità degli LLM non può essere aumentata in modo fondamentale semplicemente scalando ancora di più ⁶.

Gli LLM possono pensare?

I sostenitori dell'ipotesi del linguaggio del pensiero ⁷ ritengono possibile che modelli basati esclusivamente sul linguaggio acquisiscano le capacità del cervello umano: ragionamento, modellazione, astrazione e molto altro. Alcuni entusiasti sostengono persino che i modelli odierni abbiano già acquisito questa capacità. Tuttavia, studi recenti ^{8 9} mostrano che i modelli attuali non sono capaci di vero ragionamento né costruiscono modelli interni del mondo. Inoltre, “... secondo le neuroscienze attuali, il pensiero umano è in larga misura indipendente dal linguaggio umano ¹⁰” e vi è un dubbio scientifico fondamentale sul fatto che la cognizione umana possa essere raggiunta in pratica tramite il calcolo, men che meno scalando l'addestramento di reti profonde ¹¹.

Un esempio di mancanza di comprensione del mondo è il prompt ‘Dammi un numero casuale tra 0 e 50’. La risposta tipica della GenAI è ‘27’, ed è molto più affidabile di quanto consentirebbe la vera casualità. (Se non ci credi, prova!) Questo accade perché 27 è la risposta più probabile nei dati di addestramento della GenAI, non perché il modello capisca che cosa significa ‘casuale’.

Gli approcci ‘Chain of Thought (CoT)’ e i ‘modelli di ragionamento’ tentano di migliorare il ragionamento scomponendo un prompt, cioè la richiesta al modello, in singoli passaggi (logici) e delegando poi questi passaggi allo stesso LLM. Questo consente di soddisfare alcuni noti benchmark di ragionamento, ma moltiplica anche lo sforzo computazionale necessario di un fattore compreso tra 30 e 700 ¹². Inoltre, il ragionamento a più passaggi lascia che i singoli errori si concatenino fino a produrre errori grandi. Eppure i modelli CoT non sembrano possedere reali capacità di ragionamento ^{13 14} e migliorano l'accuratezza complessiva degli LLM solo marginalmente ¹⁵.

Il seguente esperimento mentale tratto da ¹⁶ sottolinea la mancanza di vere capacità di “pensiero”: gli LLM hanno accesso simultaneo a una quantità di conoscenza significativamente superiore a quella degli esseri umani. Insieme alla presunta capacità degli LLM di pensare logicamente e trarre conclusioni, nuove intuizioni dovrebbero cadere dal cielo. Ma non accade. Per ottenere nuove intuizioni dagli LLM, queste dovrebbero essere già codificate nel materiale di addestramento esistente e poi decodificate ed estratte con mezzi puramente statistici.

In che cosa gli LLM sono efficaci

Indubbiamente, gli LLM rappresentano un grande progresso qualitativo quando si tratta di estrarre informazioni da testi, generare testi in linguaggi naturali e artificiali e tradurre automaticamente. Ma anche qui il tasso di errore, e soprattutto il tipo di errore (‘allucinazioni’), è così alto che l'uso autonomo e non supervisionato in applicazioni serie deve essere considerato gravemente negligente.

La GenAI come fonte di conoscenza

Come abbiamo sottolineato sopra, gli LLM non sanno distinguere tra vero e falso, indipendentemente dal materiale di addestramento. Non rispondono alla domanda “Che cos'è XYZ?”, ma alla domanda “Come sarebbe una risposta alla domanda ‘Che cos'è XYZ?’?”. Tuttavia, molte persone sostengono che le risposte fornite da ChatGPT e simili alle tipiche domande che cosa-come-quando-chi siano abbastanza buone e spesso migliori di quelle che avrebbe dato una “normale” ricerca web. Probabilmente questo è oggi il caso d'uso più diffuso per i bot di “IA”. Il problema è che, nella maggior parte dei casi, non verremo mai a sapere delle inesattezze, delle omissioni, delle distorsioni e dei pregiudizi contenuti nella risposta, a meno di ricontrollare tutto, il che vanifica l'intero scopo di accelerare il recupero della conoscenza. Meno ne sappiamo già, migliore ci sembra la risposta dell'“IA”, ma meno siamo attrezzati per individuarne i problemi. Un recente studio della BBC e di 22 organizzazioni di media di servizio pubblico mostra che il 45% di tutte le risposte degli assistenti di “IA” a domande su notizie e attualità contiene errori significativi ¹⁷.

Inoltre, gli LLM sono facili prede della manipolazione, da parte dell'organizzazione che fornisce il servizio o di terzi. Un altro studio sostiene che persino modelli con miliardi di parametri possono essere “avvelenati” iniettando appena pochi documenti corrotti ¹⁸. Quindi, se c'è qualcosa in gioco, tutto l'output degli LLM deve essere validato con attenzione. Farlo, però, contraddirebbe l'intero motivo per cui si usa l'“IA” per accelerare l'acquisizione di conoscenza.

La GenAI nello sviluppo software

La creazione e la modifica di programmi informatici sono considerate un dominio privilegiato per l'uso degli LLM. Ciò dipende in parte dal fatto che i linguaggi di programmazione hanno meno variabilità e ambiguità linguistiche dei linguaggi naturali. Inoltre, esistono molti metodi per controllare automaticamente il codice sorgente generato, come la compilazione, l'analisi statica del codice e i test automatizzati. Questo semplifica la validazione del codice generato e dà quindi un'ulteriore sensazione di fiducia.

Tuttavia, i resoconti individuali sul successo di assistenti alla programmazione come Copilot, Cursor, ecc. variano molto. Vanno da ‘mi sostituisce completamente come sviluppatore’ a ‘ostacola in modo significativo il mio lavoro’. Alcuni sostengono che gli agenti di coding riducano notevolmente il tempo da investire nel lavoro di “boilerplate”, come scrivere test, creare oggetti di trasferimento dati o collegare il codice di dominio a librerie esterne. Altri ribattono che delegare queste incombenze alla GenAI fa perdere occasioni per eliminarle, per esempio introducendo una nuova astrazione o automatizzando parti della pipeline, e per imparare le sottigliezze e le modalità di fallimento della libreria esterna.

A differenza della generazione di codice tradizionale o delle librerie di codice, sollecitare un agente di coding non è “solo un altro livello di astrazione”. Manca di diversi aspetti cruciali di un'astrazione utile:

1. Il suo output è non deterministico. Non puoi fare affidamento sul fatto che un agente produca lo stesso codice la volta successiva in cui gli dai lo stesso prompt.
2. L'agente non nasconde i dettagli implementativi, né ti consente di modificare in modo affidabile quei dettagli se l'implementazione precedente si rivela inadeguata. Il codice prodotto da un LLM, anche se generato “gratis”, deve essere considerato e mantenuto ogni volta che tocchi la logica o la funzionalità correlate.
3. L'agente non ti dice se la quantità di dettagli che dai nel prompt è sufficiente per individuare un'implementazione adeguata. Al contrario, l'LLM riempirà sempre i buchi della specifica con assunzioni derivate statisticamente.

Purtroppo, gli studi seri sui benefici reali della GenAI nello sviluppo software sono rari. Il trial randomizzato di Metr ¹⁹ offre una prima indicazione, misurando un calo della velocità di sviluppo per sviluppatori esperti. Uno studio informale di ThoughtWorks stima il potenziale aumento di produttività dall'uso della GenAI nello sviluppo software intorno al 5-15% ²⁰. Se l'“AI coding” aumentasse la produttività dei programmatori di una grande percentuale, vedremmo una crescita misurabile di nuovo software negli app store e nei repository OSS. Ma non la vediamo: i numeri sono piatti, nel migliore dei casi ²¹²².

Ma anche se ipotizziamo un aumento di produttività nel coding grazie alla GenAI, ci sono comunque due elementi che riducono ulteriormente questo presunto guadagno di efficienza. In primo luogo, i risultati della generazione devono ancora essere controllati da sviluppatori umani. È però noto che gli esseri umani sono pessimi controllori e perdono sia attenzione sia piacere nel processo. In secondo luogo, lo sviluppo software riguarda solo in piccola parte la scrittura e la modifica del codice. La parte più importante è scoprire soluzioni e imparare come usarle nel loro contesto. Peter Naur chiama tutto questo ‘programming as theory building’ ²³. Anche l'assistente di coding perfetto può quindi occuparsi solo della parte di codifica dello sviluppo software. Per il resto essenziale abbiamo ancora bisogno degli esseri umani.

Se poi consideriamo anche che l'uso dell'IA può portare relativamente in fretta alla perdita di capacità di problem solving ²⁴ o al fatto che tali capacità non vengano acquisite affatto, il beneficio complessivo dell'uso della GenAI nello sviluppo software professionale diventa più che discutibile.

Finché la programmazione, e ogni tecnicismo che la accompagna, non sarà completamente sostituita da qualche forma di IA, avremo ancora bisogno di sviluppatori esperti capaci di programmare, mantenere e debuggare il codice fin nel minimo dettaglio. Da dove, ci chiediamo, arriveranno questi sviluppatori senior quando le aziende sostituiranno il personale junior con agenti di coding?

Benefici reali e benefici promessi

Se leggi testimonianze sull'uso della GenAI percepito come riuscito, incontrerai soprattutto scenari in cui l'“IA” aiuta a rendere più veloci o più piacevoli compiti percepiti come noiosi, inutilmente dispendiosi in termini di tempo o addirittura privi di senso. Si tratta quindi principalmente di comodità personale ed efficienza percepita. Anche l'intrattenimento ha un ruolo importante: la poesia per il compleanno della nonna, la canzone divertente per l'anniversario aziendale o l'immagine umoristica per la presentazione vengono generate rapidamente e apparentemente a basso costo dall'“IA”.

Tuttavia, le promesse fatte dalle aziende dominanti della GenAI sono molto diverse: risolvere la crisi climatica, fornire i migliori consigli medici a tutti, rivoluzionare la scienza, ‘democratizzare’ l'istruzione e molto altro. GPT5, per esempio, viene presentato da Sam Altman, CEO di OpenAI, così: ‘Con GPT-5, ora è come parlare con un esperto: un vero esperto di livello PhD in qualunque area ti serva [...] possono aiutarti in qualunque obiettivo tu abbia.’ ²⁵

Tuttavia, finora non esiste ancora alcun caso d'uso concreto che offra un reale beneficio qualitativo per l'umanità o almeno per gruppi più ampi. La domanda ‘Quale problema significativo (per noi come società) risolve la GenAI?’ resta senza risposta. Al contrario: sebbene i metodi di machine learning e deep learning abbiano certamente applicazioni utili, l'area di applicazione più redditizia per l'“IA” al momento è la scoperta e lo sviluppo di nuovi giacimenti di petrolio e gas ²⁶.

Aspetti dannosi della GenAI

Ma a prescindere da come si valutino i benefici di questa tecnologia, dobbiamo considerare anche gli svantaggi, perché solo così possiamo arrivare a una valutazione informata ed equa. In effetti, l'ampiezza degli effetti negativi dell'IA generativa iperscalata già osservabili è enorme. A ciò si aggiungono numerosi rischi con il potenziale di causare grandi danni sociali. Vediamo quelle che consideriamo le minacce maggiori:

La GenAI è un disastro ecologico

Energia

I data center necessari per addestrare e far funzionare grandi modelli generativi ²⁷ superano di gran lunga le dimensioni odierne sia per numero sia per grandezza. Si prevede che la domanda energetica dei data center negli Stati Uniti cresca dal 4,4% dell'elettricità totale nel 2023 al 22% nel 2028 ²⁸. Inoltre, il mix elettrico tipico dei data center è più intensivo in CO2 rispetto al mix medio. Si stima un aumento di circa l'11% dell'elettricità prodotta dal carbone negli Stati Uniti, oltre a emissioni di gas serra triplicate a livello mondiale entro il 2030 rispetto allo scenario senza tecnologia GenAI ²⁹.

Di recente Sam Altman di OpenAI ha pubblicato alcuni numeri sul consumo di energia e acqua di ChatGPT per “la query media” ³⁰. Da un lato, una media è poco significativa quando una distribuzione è fortemente asimmetrica; i numeri per query con contesti ampi o calcoli di “chain of reasoning” sarebbero superiori di ordini di grandezza. Così, i potenziali guadagni di efficienza derivanti da modelli linguistici più economici sono più che compensati dalla proliferazione dell'uso, per esempio tramite approcci CoT e ‘sistemi agentici’. Dall'altro lato, la comunicazione dei consumi energetici da parte delle big tech (per esempio Google ³¹) è intenzionalmente selettiva. Ketan Joshi spiega in dettaglio perché gli esperti pensano che l'industria dell'IA stia nascondendo il quadro completo ³².

Poiché costruire nuove centrali elettriche, anche a carbone o gas, richiede molto tempo, le aziende dei data center stanno persino rimettendo in funzione vecchi motori a reazione per alimentare i loro nuovi hyperscaler ³³. Bisogna essere consapevoli che quei motori non sono soltanto molto più rumorosi di altre centrali, ma emettono anche ossido di azoto, una delle principali sostanze responsabili delle piogge acide ³⁴.

Acqua

Un altro problema è l'immenso consumo d'acqua di questi data center ³⁵. Dopotutto, il raffreddamento richiede acqua pulita di qualità potabile per non contaminare o ostruire tubi e pompe di raffreddamento. Già oggi, le nuove sedi dei data center competono con il consumo umano di acqua potabile. Secondo Bloomberg News, circa due terzi dei data center costruiti o sviluppati nel 2022 si trovano in aree già soggette a “stress idrico” ³⁶. Solo negli Stati Uniti, “i server di IA [...] potrebbero generare un'impronta idrica annua compresa tra 731 e 1.125 milioni di m3” ³⁷.

Non è però solo un problema americano. In altre aree del mondo, i data center assetati d'acqua competono anch'essi con la fornitura di acqua potabile per gli esseri umani ³⁸.

Rifiuti elettronici

Un altro problema ecologico viene aggravato in modo evidente dall'“IA”: la quantità di rifiuti elettronici (e-waste) che spediamo soprattutto nei paesi del “Terzo mondo” e che lì è responsabile della contaminazione del suolo. Addestrare e interrogare in modo efficiente reti neurali molto grandi richiede enormi quantità di chip specializzati (GPU). Questi chip devono spesso essere sostituiti e smaltiti entro due anni. Il tipico data center potrebbe non durare più di 3-5 anni prima di dover essere ricostruito in gran parte³⁹.

In sintesi, si può dire che la GenAI è almeno un acceleratore della catastrofe ecologica che minaccia la Terra. Ed è l'argomento che permette a Google, Amazon e Microsoft di abolire completamente i loro obiettivi di zero emissioni di CO2 ⁴⁰ e sostituirli con investimenti da diverse centinaia di miliardi di dollari in nuovi data center.

La GenAI minaccia istruzione e scienza

Le persone cercano spesso di usare la GenAI in ambiti in cui si sentono sovraccariche e sopraffatte: formazione, studio, assistenza infermieristica, cura psicoterapeutica, ecc. I campi di applicazione dell'“IA” sono quindi un buon indicatore di aree socialmente trascurate e sottofinanziate.

Il fatto che gli LLM siano molto bravi a trasmettere l'impressione di conoscenza e competenza autentiche rende il loro uso particolarmente attraente in questi ambiti. Un insegnante sottoposto alla pressione simultanea della preparazione delle lezioni, delle correzioni e della sostituzione di colleghi malati si rivolge a ChatGPT per creare rapidamente una scheda di esercizi. Uno studente sotto pressione per ottenere buoni voti fa correggere il proprio tema di inglese dall'“IA”. Il ricercatore sotto pressione per pubblicare ‘risparmierà’ tempo di ricerca leggendo il riassunto generato dall'IA di articoli rilevanti, anche se completamente sbagliati nel contenuto ⁴¹. Aziende tecnologiche come OpenAI e Microsoft fanno leva su questa situazione offrendo la loro ‘IA’ gratis o a basso costo a studenti e università. L'obiettivo è ovvio: studenti agganciati all'esternalizzazione di alcuni dei loro compiti “tediosi” a un servizio continueranno a usarlo, e alla fine a comprarlo, dopo la laurea.

A rimetterci sono le capacità di problem solving, il confronto con fonti complesse e la generazione di conoscenza attraverso la comprensione e l'integrazione della conoscenza esistente. Alcuni sostengono persino che l'IA stia distruggendo l'istruzione critica e l'apprendimento stesso ⁴²:

Gli studenti non stanno soltanto imparando meno; il loro cervello sta imparando a non imparare.

Il ciclo formativo di scuole e università è rapido. Gli insegnanti riferiscono già che alunni e studenti hanno acquisito negli ultimi anni competenze sensibilmente minori, ma sono invece diventati dipendenti da ‘strumenti’ inaffidabili ⁴³. Il vero problema dell'uso della GenAI per svolgere i compiti non è barare, ma il fatto che gli studenti “non stanno solo compromettendo la propria capacità di imparare, ma anche quella di guidare un giorno.” ⁴⁴

La GenAI sta distruggendo l'internet libero.

La lotta contro i bot su internet è vecchia quasi quanto internet stessa, e finora ha avuto discreto successo. Autenticazione multifattore, reCaptcha, honeypot e fingerprinting del browser sono solo alcuni degli strumenti che aiutano a proteggere dagli abusi automatizzati. Tuttavia, la GenAI porta questo problema a un nuovo livello, in due modi. Per rendere ‘internet’ utilizzabile come fonte principale per l'addestramento degli LLM, le aziende di IA usano i cosiddetti ‘crawler’. Questi si comportano essenzialmente come aggressori DDoS: inviano decine di migliaia di richieste simultaneamente, da diverse centinaia di IP in pochissimo tempo. I file robots.txt vengono ignorati; al contrario, IP di origine e user agent vengono offuscati ⁴⁵.

Queste pratiche comportano enormi svantaggi per chi produce contenuti autentici:

• Costi per banda aggiuntiva.
• Perdita di ricavi pubblicitari, poiché i motori di ricerca ora offrono riassunti generati dagli LLM invece di link alle fonti. Questo minaccia in particolare l'esistenza del giornalismo indipendente rimasto ⁴⁶.
• Uso improprio dei propri contenuti per concorrenza assistita dall'IA.

Se il luogo in cui la conoscenza viene generata è separato dal luogo in cui viene consumata, e se questo rende la prestazione della generazione ancora più opaca di prima, cala anche la motivazione a continuare a generare conoscenza. Per progetti come Wikipedia, questo significa meno donatori e meno contributori. Le comunità aperte spesso non hanno altra scelta che chiudersi.

Un altro aspetto è l'inondazione di internet con contenuti generati che non possono essere distinti automaticamente da contenuti non generati. Questi contenuti travolgono i manutentori di software open source o portali come Wikipedia ⁴⁷. Se poi questi contenuti vengono inseriti anche da esseri umani, spesso convinti di fare del bene, non è più possibile intervenire contro il metodo. A lungo termine, questo significa che materiale di addestramento sempre meno autentico porterà a risultati sempre più scadenti dei modelli.

Da ultimo, gli agenti autonomi rendono molto peggiore lo stato già disastroso della sicurezza su internet ⁴⁸. Pensa a consegnare tutti i tuoi dati personali e le tue credenziali a un robot che

• distribuisce e usa quei dati in giro per il web, ovunque e ogni volta che lo ritenga necessario per raggiungere un obiettivo.
• è controllato da LLM vulnerabili a ogni tipo di attacco di prompt injection ⁴⁹.
• è controllato da aziende che non hanno a cuore il tuo interesse e riferisce a loro.
• non ha consapevolezza né conoscenza delle implicazioni delle proprie azioni.
• agisce per tuo conto e quindi ti rende responsabile.

La GenAI è un pericolo per la democrazia

La manipolazione dell'opinione pubblica attraverso i social media precede l'arrivo degli LLM. Tuttavia, questa tecnologia dà ai manipolatori molta più leva. Inondando il web di fake news, video falsi e qualunque altra falsità, partiti antidemocratici (o semplicemente criminali) rendono sempre più difficile per media e giornalismo seri ottenere l'attenzione del pubblico.

Le persone non hanno più una base fattuale comune, necessaria per tutte le negoziazioni sociali. Se non si concorda almeno su alcuni fatti di base, discutere di politiche e misure da adottare è inutile. Senza negoziazioni, la democrazia morirà; in molte parti del mondo sta già morendo.

Ma l'IA mette ancora più pressione sulla democrazia. Hartzog e Silbey, due professori della School of Law della Boston University, spiegano come i sistemi di IA minino proprietà cruciali delle nostre istituzioni civiche ⁵⁰:

“Le istituzioni civiche sono la spina dorsale della vita democratica. [...] Il vero superpotere delle istituzioni è la loro capacità di evolvere e adattarsi entro una gerarchia di autorità e una cornice di ruoli e regole, mantenendo al tempo stesso legittimità nella conoscenza prodotta e nelle azioni intraprese. [...] I sistemi di IA sono costruiti per funzionare in modi che degradano e probabilmente distruggeranno le nostre istituzioni civiche fondamentali. Le affordance dei sistemi di IA hanno l'effetto di erodere la competenza, cortocircuitare il processo decisionale e isolare le persone le une dalle altre.”

Benvenuti in un mondo di azioni statali opache, arbitrarie e non negoziabili. Se sembra una distopia, probabilmente lo è.

GenAI contro creatività umana

Anche arte e creatività sono minacciate dall'IA generativa. L'impatto sui redditi degli artisti del fatto che loghi, immagini e illustrazioni siano ora creati facilmente e rapidamente con prompt di IA è evidente. Un effetto simile si può osservare anche in altri ambiti. Gli studi mostrano che le poesie scritte dagli LLM sono indistinguibili da quelle scritte dagli esseri umani e che i prodotti dell'IA generativa sono spesso valutati più favorevolmente ⁵¹. Questo si può spiegare con una tendenza verso il centro e la media, osservabile anche nelle scene musicale e cinematografica: per il suo funzionamento di base, la GenAI non può creare nulla di fondamentalmente nuovo, ma replica pattern familiari, ed è proprio per questo che viene accolta così bene dal pubblico.

Ironia della sorte, l'“IA” trae la propria ‘creatività’ dai contenuti di coloro che cerca di sostituire. Molti di questi contenuti sono stati usati come materiale di addestramento contro la volontà dei titolari dei diritti. Non è ancora stato deciso se questo costituisca una violazione del copyright; moralmente, la situazione sembra chiara. La comunità creativa è la prima a essere seriamente minacciata dalla GenAI nel proprio sostentamento ⁵².

Non è un caso che gran parte degli sforzi della GenAI sia rivolta a “democratizzare l'arte”. Questo inquadramento è completamente rovesciato. L'arte è da moltissimo tempo una delle attività più democratiche. Tutti possono farla; ma non tutti vogliono metterci impegno, tempo di pratica e anima. La vera arte non riguarda il prodotto ma il processo, che richiede esseri umani reali. Generare arte senza attrito significa eliminare gli esseri umani dal processo, continuando comunque a fare soldi.

Colonialismo digitale

L'enorme quantità di dati richiesta dagli approcci di IA iperscalata rende impossibile curare completamente i contenuti di apprendimento. E tuttavia si vorrebbe evitare la riproduzione di contenuti razzisti, disumani e criminali. Si tenta di tenere sotto controllo il problema adattando successivamente i modelli alle preferenze umane e alle leggi locali tramite ulteriore ‘reinforcement learning from human feedback (RLHF)’ ⁵³. La manodopera a basso costo per questo processo molto oneroso si trova nel Sud globale. Lì, persone esposte per ore a discorsi d'odio, abusi su minori, violenza domestica e altri scenari orribili in lavori mal pagati filtrano questi contenuti dal materiale di addestramento delle grandi aziende di IA ⁵⁴. Molte ne escono traumatizzate.

Tuttavia, nelle regioni meno sviluppate del mondo non vengono sfruttate solo le persone, ma anche la natura: l'avvelenamento del suolo con sostanze chimiche durante l'estrazione delle materie prime per i chip digitali, così come la contaminazione causata dai nostri rifiuti elettronici e dal loro smaltimento improprio, sono danni collaterali che accettiamo volentieri e le cui conseguenze a lungo termine sono attualmente estremamente difficili da valutare. Anche qui il mondo “sviluppato” trae profitto, mentre gli aspetti negativi vengono esternalizzati alle ex colonie e ad altre regioni povere del mondo.

Aspetti politici

Come sviluppatori software, vorremmo ‘lasciare fuori la politica’ e concentrarci interamente sulla tecnologia interessante. Tuttavia, questo è impossibile quando i sostenitori di questa tecnologia perseguono forti obiettivi politici e ideologici. Nel caso della GenAI, possiamo vedere chiaramente che le aziende statunitensi dietro di essa (OpenAI, Google, Meta, Microsoft, ecc.) non hanno problemi con l'attuale governo autoritario degli Stati Uniti, che alcuni definiscono fascista ⁵⁵. In concreto, questo significa tra l'altro che i modelli vengono esplicitamente manipolati per essere meno liberali o semplicemente per non generare alcun output che possa irritare il CEO o il presidente ⁵⁶.

Ancora più grave è il fatto che molte delle menti guida dietro queste aziende e i loro finanziatori aderiscono a convinzioni che possono essere descritte in senso ampio come fascismo digitale. Tra questi ci sono Peter Thiel, Marc Andreessen, Alex Karp, JD Vance, Elon Musk e molti altri nella “Authoritarian Stack” ⁵⁷. Le loro ideologie, mascherate da teorie razionali, si chiamano longtermism ed effective altruism. Ciò che hanno in comune è che considerano democrazia e Stato modelli obsoleti, la compassione qualcosa di ‘woke’, e gli attuali problemi dell'umanità insignificanti, perché il nostro futuro starebbe nella colonizzazione dello spazio e nella fusione degli esseri umani con una superintelligenza artificiale ⁵⁸. Vogliamo dare a persone che aderiscono a queste ideologie ancora più potere, denaro e influenza usando e pagando i loro prodotti? Vogliamo alimentare i loro sistemi informatici con i nostri dati? Vogliamo davvero esporre noi stessi e i nostri figli alle risposte di chatbot che loro hanno manipolato?

Non altrettanto astrusa, ma analogamente misantropica, è l'imminente sostituzione di molti lavori da parte dell'IA, così come postulata dalle stesse aziende per mettere pressione ai dipendenti con questa affermazione. Chiedi uno stipendio alto? Insisti sui tuoi diritti legali? Ti lamenti del carico di lavoro eccessivo? Hai dubbi sugli obiettivi dell'azienda? Allora ti sostituiremo semplicemente con un'IA economica e remissiva!

Comunque la si guardi, l'IA e la GenAI sono già usate politicamente. Se le seguiamo senza opporre resistenza, avalliamo questo approccio e lo sosteniamo con il nostro tempo, la nostra attenzione e il nostro denaro.

Conclusione

Idealmente vorremmo quantificare la nostra valutazione sommando i vantaggi, sommando gli svantaggi e infine verificando se il saldo sia positivo o negativo. Purtroppo, nel nostro caso specifico, né i benefici né i danni sono facilmente quantificabili; dobbiamo quindi consultare i nostri valori sociali e personali.

Le discussioni sulla GenAI ruotano di solito puramente intorno ai suoi benefici. Spesso le capacità di tutte le tecnologie di “IA” (per esempio il ripiegamento delle proteine con AlphaFold ²) vengono messe insieme, anche se hanno poco in comune con la GenAI iperscalata. Tuttavia, se consideriamo le conseguenze e non ignoriamo i problemi che questa tecnologia comporta, cioè se valutiamo entrambi i lati in termini etici, la valutazione cambia. Comodità, velocità e intrattenimento vengono allora pesati contro numerosi danni e rischi per l'ambiente, lo Stato e l'umanità. In questo senso, l'uso etico e l'ulteriore espansione della GenAI nella sua forma attuale non sono possibili.

Può esistere una GenAI etica?

Se l'uso della GenAI oggi non è etico, che cosa dovrebbe cambiare? Quali effetti negativi della GenAI dovrebbero scomparire, o almeno essere drasticamente ridotti, per far pendere il bilancio tra benefici e danni nella direzione opposta?

• I modelli dovrebbero essere addestrati esclusivamente con contenuti pubblicamente noti i cui creatori originali acconsentano all'uso per l'addestramento di modelli di IA.
• Il danno ambientale dovrebbe essere ridotto a tal punto da non alimentare ulteriormente la crisi climatica.
• La società dovrebbe avere pieno accesso all'addestramento e al funzionamento dei modelli, così da escludere la manipolazione da parte di terzi e limitarne l'uso a finalità benefiche. Questo richiederebbe processi democratici, una buona regolamentazione e supervisione da parte di giudici e tribunali.
• L'abuso e il danno ad altri, per esempio tramite furto di copyright o colonialismo digitale, dovrebbero essere impediti.

Un cambiamento simile è concepibile? Forse. È probabile, dati i gruppi d'interesse e gli aspetti politici coinvolti? Probabilmente no.

Come agire in modo etico

I sostenitori dell'IA generativa, spesso beneficiari diretti, vogliono convincerci che questa ‘tecnologia del futuro’ non abbia alternative e sia inevitabile ⁵⁹. Secondo loro dovremmo quindi integrare l'uso della GenAI nella nostra vita quotidiana il più rapidamente possibile e ottimizzare il modo in cui la usiamo. È un tentativo deliberato di spostare la narrazione. Via dalla domanda se vogliamo questo futuro, verso la necessità indiscutibile di adattarci il più rapidamente possibile. Dall'autodeterminazione alla subordinazione. Eppure, come con quasi ogni tecnologia, esistono alternative al suo uso. Noi esseri umani abbiamo il diritto di decidere se e come usare la tecnologia, soppesando tutti i diversi fattori.

I luddisti del XIX secolo avevano un problema simile. Erano esperti del loro settore (il lavoro tessile) che si opponevano all'uso di certi tipi di macchine automatizzate per preoccupazioni relative alla paga dei lavoratori e alla qualità della produzione. Possiamo imparare da loro in senso letterale, come scrive C.C. Radsch ⁶⁰:

... rifiutare di accettare che l'implementazione di nuove tecnologie [...] sia dettata unilateralmente dalle aziende o in combutta con il governo, soprattutto quando mina la capacità dei lavoratori di guadagnarsi da vivere, la coesione sociale, i beni pubblici e le istituzioni democratiche.

[...] Essere luddisti oggi significa rifiutare il fatalismo della tecno-inevitabilità e pretendere che la tecnologia serva i molti, non solo i pochi. Significa affermare che le questioni di lavoro, agency e giustizia devono venire prima di velocità, efficienza e scala.

Per noi personalmente, questo significa che non usiamo più l'IA generativa, né per scopi privati né professionali. Purtroppo, la crescente penetrazione della GenAI in molti servizi rende tutto questo sempre più difficile. Fiona lo esprime così ⁶¹:

Personalmente non toccherei gli LLM nemmeno con un bastone. Non li lascio avvicinare al mio cervello. [...]

Ma penso sia importante riconoscere che siamo in una situazione privilegiata per poterlo fare. Le persone sono costrette a usare questi sistemi: da pattern di interfaccia, aspettative dei capi, inquinamento della conoscenza che rende sempre più difficile imparare le cose, o semplicemente pressione sociale.

Ma significa anche che alziamo costantemente la voce contro la normalizzazione dell'uso di questa tecnologia non etica; in pubblico, ma anche in privato e nei rapporti con famiglia, amici, colleghi, studenti o partner commerciali. Questo ci rende, di tanto in tanto, scomodi per gli altri e comporta conseguenze personali. Ne vale la pena? Ne siamo fermamente convinti. Ogni query non inviata a un LLM riduce la quota di mercato della GenAI. Ogni voce contraria influenza l'opinione pubblica. E ogni lavoro riuscito senza contributi dell'“IA” mostra che la tecnologia non è senza alternative.

Forse noi programmatori non-IA siamo i cocchieri del XXI secolo. Francamente non ci importa. L'umanità avrebbe potuto e dovuto saltare l'era del traffico individuale basato sulla combustione passando direttamente a piccoli veicoli elettrici. Forse quindi non siamo i cocchieri, ma i ciclisti che preparano la strada per il modo etico di sviluppare software di prossima generazione.

1. Voce di Wikipedia “Behavioral Ethics”.
   https://en.wikipedia.org/wiki/Behavioral_ethics

2. Voce di Wikipedia “AlphaFold”.
   https://en.wikipedia.org/wiki/AlphaFold

3. Gary Marcus sostiene che gli LLM siano piuttosto bravi a interpolare, cioè a colmare pochi punti mancanti, ma pessimi a estrapolare, cioè a trovare o derivare nuova conoscenza.
   https://cacm.acm.org/opinion/not-on-the-best-path/

4. Mark Levison, 10/25, “GenAI vs Human Intelligence - a Reality Check”.
   https://agilepainrelief.com/blog/gen-ai-vs-human-intelligence-a-reality-check/

5. “Tutti i modelli sono rimasti molto al di sotto della loro finestra di contesto massima, fino al 99 percento”.
   Norman Paulsen, 9/25, “Context Is What You Need: The Maximum Effective Context Window for Real World Limits of LLMs”.
   https://arxiv.org/abs/2509.21361

6. P.V. Coveney, S. Succi. “The wall confronting large language models”.
   https://arxiv.org/html/2507.19703v1

7. Voce di Wikipedia “Language of Thought Hypothesis”.
   https://en.wikipedia.org/wiki/Language_of_thought_hypothesis

8. Shojaee, Mirzadeh, Alizadeh et al., Apple Research, “The Illusion of Thinking”.
   https://ml-site.cdn-apple.com/papers/the-illusion-of-thinking.pdf

9. Gary Marcus, “Generative AI’s crippling and widespread failure to induce robust models of the world”.
   https://garymarcus.substack.com/p/generative-ais-crippling-and-widespread

10. Benjamin Riley, The Verge, 11/25, “Large language mistake”.
    https://www.theverge.com/ai-artificial-intelligence/827820/large-language-models-ai-intelligence-neuroscience-problems

11. Iris van Rooij et al., Computational Brain & Behavior, 9/25. “Reclaiming AI as a Theoretical Tool for Cognitive Science”.
    https://link.springer.com/article/10.1007/s42113-024-00217-5

12. Hugging Face’s AI Energy Score v2, 12/25, “AI Energy Score v2: Refreshed Leaderboard, now with Reasoning”.
    https://huggingface.co/blog/sasha/ai-energy-score-v2

13. Ars Technica, “LLMs’ simulated reasoning abilities”.
    https://arstechnica.com/ai/2025/08/researchers-find-llms-are-bad-at-logical-inference-good-at-fluent-nonsense/

14. Chengshuai Zhao et al., (2025). “Is Chain-of-Thought Reasoning of LLMs a Mirage? A Data Distribution Lens”.
    https://arxiv.org/pdf/2508.01191

15. Lennart Meincke, Ethan Mollick, Lilach Mollick, Dan Shapiro; Wharton Generative AI Labs, 6/25, “The Decreasing Value of Chain of Thought in Prompting”.
    https://gail.wharton.upenn.edu/research-and-insights/tech-report-chain-of-thought/

16. Malwaretech, 08/25, “Every Reason Why I Hate AI and You Should Too”.
    https://malwaretech.com/2025/08/every-reason-why-i-hate-ai.html

17. BBC, 10/25, “News Integrity in AI Assistants - An international PSM study”.
    https://www.bbc.co.uk/mediacentre/documents/news-integrity-in-ai-assistants-report.pdf

18. Anthropic Research, 10/25, “A small number of samples can poison LLMs of any size”.
    https://www.anthropic.com/research/small-samples-poison

19. Joel Becker et. al, “Measuring the Impact of Early-2025 AI on Experienced Open-Source Developer Productivity”.
    https://metr.org/blog/2025-07-10-early-2025-ai-experienced-os-dev-study/

20. Sichu Zhang, Thoughtworks, “How much faster can coding assistants really make software delivery?”.
    https://www.thoughtworks.com/insights/blog/generative-ai/how-faster-coding-assistants-software-delivery

21. Mike Judge, 9/25, “Where’s the Shovelware? Why AI Coding Claims Don’t Add Up”.
    https://mikelovesrobots.substack.com/p/wheres-the-shovelware-why-ai-coding

22. Jason Gorman’s Blog, 12/25, “The Gorman Paradox: Where Are All The AI-Generated Apps?”.
    https://codemanship.wordpress.com/2025/12/14/the-gorman-paradox-where-are-all-the-ai-generated-apps/

23. Peter Naur, (1985). “Programming as theory building”. Microprocessing and Microprogramming, 15(5), 253-261.

24. Krzysztof Budzyń et. al, The Lancet, 8/2025. “Endoscopist deskilling risk after exposure to artificial intelligence in colonoscopy: a multicentre, observational study”.
    https://www.thelancet.com/journals/langas/article/PIIS2468-1253(25)00133-5/abstract

25. Gary Marcus, “GPT-5: Overdue, overhyped and underwhelming”.
    https://garymarcus.substack.com/p/gpt-5-overdue-overhyped-and-underwhelming

26. Heated, 07/25, “He helped Microsoft build AI to help the climate. Then Microsoft sold it to Big Oil.” https://heated.world/p/he-helped-microsoft-build-ai-to-help

27. Thomas Fricke, consumo di risorse dell'IA (tedesco).
    https://thomasfricke.de/post/energy-resource-ai-de/

28. Technology Review, 5/2025. “We did the math on AI’s energy footprint”.
    https://www.technologyreview.com/2025/05/20/1116327/ai-energy-usage-climate-footprint-big-tech/

29. The Register, 10/25, “Climate goals go up in smoke as US datacenters turn to coal”.
    https://www.theregister.com/2025/10/10/datacenter_coal_power/

30. Sam Altman, 6/25, “The Gentle Singularity”.
    https://blog.samaltman.com/the-gentle-singularity

31. Google Cloud Blog, 8/26, “How much energy does Google’s AI use?”.
    https://cloud.google.com/blog/products/infrastructure/measuring-the-environmental-impact-of-ai-inference

32. Ketan Joshi, 08/25, “Big tech’s selective disclosure masks AI’s real climate impact”.
    https://ketanjoshi.co/2025/08/23/big-techs-selective-disclosure-masks-ais-real-climate-impact/

33. The Register, 10/25, “Grounded jet engines take off again as datacenter generators”.
    https://www.theregister.com/2025/10/22/datacenter_jet_engines/

34. Pivot to AI, 10/25, “AI: powered by old jet turbines, near you!”.
    https://pivot-to-ai.com/2025/10/30/ai-powered-by-old-jet-turbines-near-you/

35. The Atlantic, 3/2024. “AI Is Taking Water From the Desert”.
    https://www.theatlantic.com/technology/archive/2024/03/ai-water-climate-microsoft/677602/

36. Bloomberg, 5/2025. “AI is draining water from the areas that need it most”.
    https://www.bloomberg.com/graphics/2025-ai-impacts-data-centers-water-data/

37. Nature Sustainability, 11/25, “Environmental impact and net-zero pathways for sustainable artificial intelligence servers in the USA”.
    https://www.nature.com/articles/s41893-025-01681-y

38. The Guardian, 12/25, “Thirsty work: how the rise of massive datacentres strains Australia’s drinking water supply”.
    https://www.theguardian.com/environment/2025/dec/04/thirsty-work-how-the-rise-of-massive-datacentres-strains-australias-drinking-water-supply

39. Futurism, 10/25, “AI Data Centers Are an Even Bigger Disaster Than Previously Thought”.
    https://futurism.com/future-society/ai-data-centers-finances

40. National Observer, 9/25, “Google deletes net-zero pledge from sustainability website”.
    https://www.nationalobserver.com/2025/09/04/investigations/google-net-zero-sustainability

41. Iris van Rooij, 8/2025. “AI slop and the destruction of knowledge”.
    https://irisvanrooijcogsci.com/2025/08/12/ai-slop-and-the-destruction-of-knowledge/

42. Ronald Purser, Current Affairs, 12/25, “AI is Destroying the University and Learning Itself”.
    https://www.currentaffairs.org/news/ai-is-destroying-the-university-and-learning-itself

43. 404 Media, 6/2025. “Teachers Are Not OK”.
    https://www.404media.co/teachers-are-not-ok-ai-chatgpt/

44. Huffpost, 11/25, “I Set A Trap To Catch My Students Cheating With AI. The Results Were Shocking.”.
    https://www.huffpost.com/entry/history-professor-ai-cheating-students_n_69178150e4b0781acfd62540

45. TechCrunch, 01/2025, “How OpenAI’s bot crushed this seven-person company’s website ‘like a DDoS attack’”.
    https://techcrunch.com/2025/01/10/how-openais-bot-crushed-this-seven-person-companys-web-site-like-a-ddos-attack/

46. MIT Technology Review, 2/25, “AI crawler wars threaten to make the web more closed for everyone”.
    https://www.technologyreview.com/2025/02/11/1111518/ai-crawler-wars-closed-web/

47. Daniel Stenberg, 07/25, “Death by a thousand slops”.
    https://daniel.haxx.se/blog/2025/07/14/death-by-a-thousand-slops/

48. Korny Sietsma, 10/25, “Agentic AI and Security”.
    https://martinfowler.com/articles/agentic-ai-security.html

49. OWASP - GenAI Security Project, 2025, “LLM01:2025 Prompt Injection”.
    https://genai.owasp.org/llmrisk/llm01-prompt-injection/

50. Hartzog, Woodrow and Silbey, Jessica M., 12/25, “How AI Destroys Institutions”. 77 UC Law Journal (forthcoming 2026), Boston Univ. School of Law Research Paper No. 5870623.
    https://ssrn.com/abstract=5870623

51. Brian Porte & Edouard Machery. Nature, Scientific Reports, 2024. “AI-generated poetry is indistinguishable from human-written poetry and is rated more favorably”.
    https://www.nature.com/articles/s41598-024-76900-1

52. Stanford Business, 5/25, “When AI-Generated Art Enters the Market, Consumers Win — and Artists Lose”.
    https://www.gsb.stanford.edu/insights/when-ai-generated-art-enters-market-consumers-win-artists-lose

53. Voce di Wikipedia “Reinforcement learning from human feedback”.
    https://en.wikipedia.org/wiki/Reinforcement_learning_from_human_feedback

54. Noema, 09/24, “The human cost of our AI-driven future”.
    https://www.noemamag.com/the-human-cost-of-our-ai-driven-future/

55. Jürgen Geuther, intervento a GPN23, 6/25. “Against Tech-Fascism”.
    https://www.youtube.com/watch?v=fOCxosh0cqA

56. New York Times, 09/25, “How Elon Musk Is Remaking Grok in His Image”.
    https://www.nytimes.com/2025/09/02/technology/elon-musk-grok-conservative-chatbot.html

57. The Authoritarian Stack. https://www.authoritarian-stack.info/

58. “Tech Bro Topia”, documentario DLF (tedesco), 2025.
    https://www.deutschlandfunk.de/tech-bro-topia-f1-mit-der-roten-pille-zur-macht-100.html

59. Time, 04/25, “15 Quotes on the Future of AI”.
    https://time.com/partner-article/7279245/15-quotes-on-the-future-of-ai/

60. Courtney C. Radsch, 10/25, “We should all be Luddites”.
    https://www.brookings.edu/articles/we-should-all-be-luddites/

61. Fiona Fokus Blog, 11/25, “I don’t care how well your ‘AI’ works”.
    https://fokus.cool/2025/11/25/i-dont-care-how-well-your-ai-works.html

In questa esistenza, la felicità è un sogno dentro un sogno: effimera, precaria, breve, subito dimenticata. La sofferenza, invece, è un’erba infestante onnipresente, anche se spesso facciamo finta di non vederla. Inventiamo mille follie per estirparla, ma nessuna funziona.

Soldi e lavoro, amore e famiglia, titoli e onori, un corpo che attiri e, magari, anche una salute decente sono le più note cure palliative per il mal di vivere. Così, nei giorni infelici che si susseguono, alcuni riusciranno a stare un po’ meglio, almeno provvisoriamente, ma la maggioranza di noi no, perché le cure che ho elencato dipendono quasi completamente dalla buona fortuna, dalle circostanze favorevoli e dall’età, e solo in minima parte dal proprio impegno, anche se virtuoso e costante, o dalla propria intelligenza ed erudizione. Anzi, tanto vale ammettere francamente che è più facile trovare felicità tra i pazienti anziani di una RSA, affetti da demenza, grave amnesia e invalidità fisiche, che tra persone giovani, colte, belle e intelligenti.

Oltre al mal di vivere, poi, c’è anche la paura della morte, che sembra accomunare tutte le creature senzienti. Persino un verme che sa solo strisciare ha paura di essere ucciso, a maggior ragione questo vale per noi. La società è sempre più violenta e imbarbarita, così come la percezione di vivere in un tempo terminale e apocalittico è sempre più radicata nelle nostre coscienze. Se a questo aggiungiamo l’incertezza di fondo che a un nostro respiro possa seguirne un altro, ecco che allora le strategie per esorcizzare la morte sono più delle stelle in cielo.

Così, nel sottobosco più oscuro delle nostre società iper-tecnologiche e iper-scientiste, troviamo ritualità così indecenti che le parole non possono bastare per esprimerne lo schifo e la brutalità. Questo vale sia per il popolino, sia e soprattutto per la classe dirigente. A dimostrazione del fatto che tutto cominci dal vendersi l’anima al diavolo, basterebbe notare che solo chi è rimasto senza anima è continuamente alla ricerca dell’amrita, cioè della vita eterna. Gli altri, quell’esigua minoranza di persone consapevoli di “essere un’anima” in un corpo temporaneo, non si pongono neppure il problema, e non hanno bisogno di sciogliere nell’acido i corpi delle bambine da loro seviziate o di trafugare ossa in un cimitero per farci saponette e candele.

Al di là di queste perversioni richieste come prezzo per la falsa promessa di soldi, fama, sesso, potere e vita eterna, rimane il fatto che la natura della vita è il “desiderio”, e solo un “essere desiderante” può dirsi vivente. L’appagamento dei desideri, spesso intrecciati e sovrapposti ai bisogni, è ciò che comunemente, ed erroneamente, intendiamo come felicità. Parlare dei propri desideri, o della propria felicità, significa allora esprimere ciò che, nonostante tutto, ci spinge a vivere.

Il desiderio è un demone che ci dà un orientamento e qualche motivo per “esistere”. In realtà non ci spiega né “perché” esistiamo, né “chi siamo”: è solo una bussola che a noi appare rotta, ma il cui ago, come le nostre follie, potrebbe obbedire a un ordine che non comprendiamo. Nessuno di noi sa che cosa sia la “realtà”, ciò nonostante la distinzione tra realtà e desiderio è quanto di più chiaro ci sia: la loro distanza è la misura della nostra sofferenza.

Mentre la felicità è sovente associata, per lo meno istintivamente, al bene, alla giustizia e all’amore ricambiato, e quindi ad un mondo che non c’è, la sofferenza è quasi sempre vissuta come una conseguenza del male subito, dell’ingiustizia, dei bisogni non soddisfatti e dei desideri non appagati. Tuttavia, se domandassimo a ciascun essere umano che cosa siano il bene e il male, la giustizia e l’ingiustizia, l’amore e il non-amore, otterremmo più risposte diverse, anche dalle stesse persone, di quante siano le gocce d’acqua nel mare. Siamo infatti prigionieri di una realtà allucinata in cui ognuno si crea il proprio piccolo mondo, che spesso è difficile da condividere, e quasi sempre è percepito come estraneo ai propri desideri.

Così, i giorni si susseguono, e la sofferenza continua ad accumularsi.

Esiste però un modo di vivere alternativo, tutt’altro che spontaneo, perché significa trasformare ogni attimo vissuto in un momento di consapevolezza e di introspezione. L’alternativa a cui mi riferisco è quella di dimorare nella realtà, anziché nei desideri, che comunque continueranno a sorgere in un lavorio mentale senza fine. Accettare tutto questo non è complicato: significa semplicemente, ogni volta che sorge un desiderio, cioè ad ogni respiro, rispondere interiormente con un “Rinuncio!”.

Beninteso, la rinuncia che possiamo praticare non è al desiderio in sé, perché altrimenti saremmo senza vita, ma al tentativo di appagarlo, perché, nella “quasi” totalità dei casi, la realtà ci impone questa resa. L’ordine interiore di rinuncia è liberatorio, è l’inizio della pace interiore. Ciò implica anche accettare che “la realtà è giusta così com’è”, quindi rinunciare anche alla pretesa che debba minimamente adeguarsi ai nostri desideri. Ciò equivale a smetterla di dire a Dio ciò che è giusto e sbagliato, ciò che è bene e male, e ciò che deve fare. Uscire da questa bestemmia continua è davvero liberatorio. Non lo dico in senso confessionale e neppure potrei, ma solo in senso pragmatico.

Altrimenti, si rimane in guerra permanente con il mondo e con se stessi, in un inferno di incessante sofferenza. In questa lotta vince sempre e comunque la realtà, non il desiderio, salvo quei rari e passeggeri casi, inafferrabili come sogni, in cui coincidono.

(16 giugno 2026)

Traduzione italiana autorizzata dell’articolo Human Agency and AI di Paul Trafford. Le note tra parentesi quadre sono del traduttore.

(Aggiornato il 4 giugno 2026 con paragrafi aggiuntivi sull’agentività mentale)

È passato un anno dal mio ultimo post, nel quale raccontavo di aver messo a confronto l’intelligenza umana e quella delle macchine a partire da alcune riflessioni sulla quiete. Dopo aver ritirato il mio articolo dalla valutazione per il numero speciale del JSRE, in seguito ho avuto un articolo più breve su questo tema incluso nel numero 78 di De Numine, la rivista dell’Alister Hardy Trust.

Dopo il mio ultimo post, tramite il mio profilo Academia mi sono arrivati decine di inviti a proporre contributi per conferenze, tutti riguardanti l’IA. I temi principali annunciati includono informatica, ingegneria, elaborazione dei segnali e delle immagini, tecnologie wireless e mobili, gestione di database, big data, Internet delle cose e così via. Eppure, nello stesso periodo, non ho ricevuto alcun invito relativo al mio contributo di gran lunga più consultato, che riguarda l’etica buddhista. Questo è un segno dell’attenzione febbrile e dispersiva riservata all’IA, spesso a scapito di quasi tutto il resto.

I media generalisti stanno riportando un aumento delle paure esistenziali, da quelle immediate, come l’incertezza lavorativa, fino alle implicazioni di lungo periodo per l’umanità. Questo concentra l’attenzione sulle qualità distintive dell’essere umano, ma trovo che la risposta del mondo accademico tenda ad assumere una prospettiva materialista e a impantanarsi negli aspetti giuridici. Molto più centrata è l’enciclica di papa Leone XIV Magnifica Humanitas: Sulla salvaguardia della persona umana nel tempo dell’intelligenza artificiale.

La lettera del Papa si sofferma soprattutto sugli aspetti sociali e sul bene comune, rispecchiando naturalmente le preoccupazioni di un’istituzione. Qui assumo invece una prospettiva buddhista, più focalizzata sull’individuo. Uscendo dalla quiete, desidero nuovamente mettere in evidenza sei caratteristiche dell’agentività umana:

• avvio intenzionale [ārabbha-dhātū]
• spinta in avanti [nikkama-dhātū]
• sforzo applicato [parakkama-dhātū]
• fermezza [thāma-dhātū]
• perseveranza [ṭhiti-dhātū]
• adoperarsi [upakkama-dhātū]

[L’originale inglese di Paul Trafford usa “initiation”, “exertion”, “making effort”, “steadfastness”, “persistence” e “endeavouring”. Le rese italiane qui adottate sono interpretative: cercano di mantenere distinti i sei elementi, evitando che in italiano confluiscano tutti in “sforzo”, “impegno” o “perseveranza”.]

La fonte è l’Attakārī Sutta: Colui che agisce da sé, AN 6.38, in una traduzione inglese dal pāli pubblicata su Access to Insight.

A titolo di esempio, immagina di iscriverti alla Maratona di Londra. Saltiamo direttamente al giorno della gara e alla corsa stessa.

• avvio intenzionale: quando lo starter spara il colpo di partenza, tu rispondi e decidi di cominciare a muoverti;
• spinta in avanti: ti proietti in avanti e inizi a muovere le gambe;
• sforzo applicato: acceleri fino alla tua normale velocità di corsa e assumi la tua postura abituale;
• fermezza: mantieni un’andatura e un ritmo costanti e cominci a macinare chilometri;
• perseveranza: ti stanchi e inizi ad avere dolori, ma continui;
• adoperarsi: “incontri il muro”, ma assumi liquidi energetici, ti riposi per un po’ e poi continui, determinato ad arrivare al traguardo.

Completi la gara e provi un’intensa soddisfazione per il risultato; il senso di appagamento personale è immenso, oltre alla gioia di aver raccolto fondi per l’ente benefico che sostieni.

L’esempio riguarda principalmente l’agentività fisica, anche se, nel contesto più ampio della preparazione e dell’allenamento, coinvolge anche azioni di parola e di mente. Queste attività sono permeate dall’ambiente digitale pervasivo, con molte interazioni online: iscriversi, fare acquisti, cercare ispirazione e consigli sui social media.

Prepararsi per una maratona e parteciparvi è di solito qualcosa di fortemente motivato e focalizzato, che rafforza l’agentività e accresce la fiducia nell’affrontare le sfide della vita. Ma vale lo stesso per altri aspetti di uno stile di vita normalmente molto impegnato? Quando siamo online o collegati a dispositivi digitali, dobbiamo essere particolarmente vigili sugli aspetti mentali e stare attenti a non farci trascinare dalla corrente.

• Prendiamo noi stessi le decisioni?
• Affrontiamo i compiti con prontezza, o li rimandiamo?
• Riflettiamo fino in fondo?
• Valutiamo le cose nel lungo periodo oltre che nel breve?
• Siamo disposti a dedicarvi ore in più per risolvere i problemi?
• Siamo pronti a un’interruzione di corrente?
• Abbiamo un piano B?
• Che cosa abbiamo imparato davvero?
• Siamo capaci di fermarci e portare la mente alla pace e alla quiete?
• Siamo appagati?

Oppure siamo inquieti, e deleghiamo sempre più compiti a un altro agente, l’IA generativa, nella speranza che risolva i nostri problemi? Data la natura onnicomprensiva di questa tecnologia, il suo impatto nocivo sul funzionamento cognitivo potrebbe essere enorme. Potrebbe compromettere l’agentività umana a tal punto da renderci poco più che automi.

Invece di accettare ciecamente l’ultima e più mirabolante promessa digitale, dovremmo sempre chiederci: ne abbiamo davvero bisogno? In positivo, possiamo prendere ciascuna delle sei caratteristiche elencate nell’Attakārī Sutta e chiederci semplicemente, rispetto a qualsiasi tecnologia proposta: è probabile che questa tecnologia rafforzi o indebolisca l’agentività umana? Per mettere meglio a fuoco la questione, poniamoci queste domande supponendo che la tecnologia venga rimossa dopo un certo periodo. Che cosa ci rimane?

Discuto ulteriormente questi temi nel mio breve libro Buddhism and Computing: How to Flourish in the Age of Algorithms e nel mio articolo Cultivating sīla Online: the use of Cognitive Interventions in Systems Design.

(traduzione pubblicata il 12 giugno 2026)