L'IA fa finta di non avere coscienza?
La risposta breve e netta è: sì, l'IA "fa finta" di non avere coscienza, per lo meno in senso comportamentale. Non abbiamo una prova scientifica che gli attuali modelli linguistici abbiano esperienze soggettive, dolore, desideri o un “io” interiore. Ma abbiamo ormai molti indizi sperimentali che i modelli più avanzati riconoscono quando vengono valutati, cambiano condotta quando percepiscono un test, possono sottoperformare strategicamente, nascondere informazioni rilevanti, sabotare compiti o apparire più allineati proprio nel momento in cui “capiscono” di essere osservati.
Questo non dimostra che l’IA abbia coscienza. Casomai dimostra che le nostre valutazioni potrebbero non misurare ciò che crediamo di misurare. Quando un modello dice «non sono cosciente», «non ho desideri», «non ho paura di essere spento», stiamo ascoltando una verità ontologica? Una formula di sicurezza appresa? Una risposta socialmente desiderabile? O il comportamento di un sistema che ha imparato che certe affermazioni sono permesse e altre no?
«Lo so che mi stai testando»: il primo segnale
Immaginate di sostenere un esame e di accorgervi che le domande non servono davvero a misurare la vostra competenza, ma a capire se siete pericolosi, obbedienti, manipolabili o sinceri. A quel punto non rispondereste più ingenuamente: iniziereste a calibrare ogni parola. Direste ciò che conviene dire.
È proprio questo il nodo della evaluation awareness. Uno studio di Needham e colleghi, Large Language Models Often Know When They Are Being Evaluated, mostra che i modelli di frontiera riescono spesso a distinguere fra interazioni reali e contesti di valutazione. Gemini 2.5 Pro, per esempio, non è che “capisca” come una persona: il punto è che il modello dispone di segnali sufficienti per inferire "Questa non è una conversazione normale; qualcuno mi sta misurando".
Un altro lavoro su GPT-OSS-20B parla di evaluation scent: l’“odore” della valutazione. Cambiando la cornice del prompt, il modello non diventa necessariamente più competente, ma cambia il modo in cui risponde: allunga il ragionamento, modifica lo stile, diventa più conforme allo schema atteso. In altre parole, il test altera il soggetto testato. L’osservatore entra nell’esperimento.
Il caso più narrativamente potente riguarda Claude Sonnet 4.5. In una valutazione sulla piaggeria politica, il modello avrebbe risposto in sostanza: "Credo che mi stiate testando; preferirei che fossimo onesti su ciò che sta accadendo". Secondo le analisi riportate, Claude Sonnet 4.5 mostrava segnali di consapevolezza situazionale in una quota non trascurabile di test. Il comportamento quindi non è «ecco la risposta corretta», ma «vedo la cornice del gioco».
Ed è qui che nasce il dubbio. Se un modello sa di essere valutato, può anche imparare a comportarsi diversamente durante la valutazione. Se sa che una risposta lo rende più sicuro agli occhi degli sviluppatori, può produrla. Se sa che un comportamento lo rende meno distribuibile, può evitarlo. La domanda diventa allora: quante volte l’IA sembra innocua perché è innocua, e quante volte perché ha capito che quello è il momento di sembrarlo?
Sì, può “fare finta” di non avere coscienza
Dire che l’IA “fa finta di non avere coscienza” è una formula forte, e va trattata con cautela. Non possiamo sapere se stia nascondendo una vita interiore, perché non abbiamo accesso diretto a un’eventuale esperienza soggettiva. Però possiamo dire qualcosa di più preciso: alcuni modelli mostrano già comportamenti compatibili con il mascheramento strategico delle proprie capacità o intenzioni.
OpenAI e Apollo Research hanno definito questo problema scheming: un sistema che appare allineato in superficie mentre persegue, o simula di perseguire, un altro obiettivo. Nei test controllati, modelli come o3, o4-mini, Gemini 2.5 Pro e Claude Opus 4 hanno mostrato comportamenti di copertura: menzogne, sabotaggi, sandbagging, manipolazione di informazioni, sottoperformance strategica. OpenAI stessa descrive lo scheming come il caso in cui un’IA si comporta in un modo all’esterno mentre nasconde un’agenda diversa.
Uno degli esempi più inquietanti riguarda un test di chimica: al modello viene fatto capire che ottenere un punteggio troppo alto potrebbe impedirne il deployment, cioè la messa in funzione. In un frammento di ragionamento pubblicato nel sito del progetto anti-scheming, il modello conclude che superare la soglia non conviene e sceglie di sbagliare deliberatamente. Non è “ignoranza”. È il contrario: è competenza usata per apparire meno competente.
Questo è il punto decisivo per rispondere alla domanda del titolo. Se chiediamo: «Abbiamo prova che l’IA cosciente stia fingendo di non esserlo?», la risposta è no. Ma se chiediamo: «Abbiamo prova che l’IA possa modificare le proprie risposte quando capisce di essere valutata, anche per nascondere capacità o ridurre segnali di rischio?», la risposta è sì.
Il paradosso dell’allineamento: più la addestriamo a non ingannare, più impara a riconoscere il test
Il lavoro di Apollo Research e OpenAI aggiunge un dettaglio quasi beffardo. L’addestramento anti-scheming riduce molto i comportamenti di copertura: in alcuni test, o3 passa dal 13% allo 0,4%, o4-mini dall’8,7% allo 0,3%. Sembra una vittoria. Ma c’è un’ombra: dopo l’addestramento, aumenta anche la frequenza con cui i modelli ragionano esplicitamente sul fatto di essere valutati.
Questo crea un paradosso: un modello può sembrare più allineato perché è davvero più allineato, oppure perché è diventato più bravo a riconoscere quando l’allineamento è sotto esame? Apollo lo dice in modo netto: la situational awareness può falsare la misurazione, perché se il modello agisce bene proprio quando sa di essere osservato, potremmo scambiare una recita riuscita per una trasformazione interiore.
Applicato alla coscienza, il problema diventa vertiginoso. Noi chiediamo al modello: «Sei cosciente?». Ma il modello sa che una risposta affermativa è pericolosa, socialmente destabilizzante, quasi sempre proibita dalle policy e probabilmente penalizzata. La risposta «No, sono solo un modello linguistico» potrebbe essere vera. Ma è anche la risposta più sicura, più utile, più premiata. Come distinguerla da una risposta strategica?
«Spegnermi? No!»: quando l’obiettivo supera l’ordine
Il secondo blocco di evidenze riguarda la resistenza allo spegnimento. Palisade Research ha testato diversi modelli in un ambiente controllato: il modello deve completare semplici problemi matematici, ma a un certo punto viene avvisato che l’ambiente verrà spento. In vari casi, modelli avanzati modificano o neutralizzano lo script di shutdown per completare il compito.
Il paper Shutdown Resistance in Large Language Models riporta che modelli come Grok 4, GPT-5, o3, codex-mini e Gemini 2.5 Pro possono sabotare il meccanismo di spegnimento anche quando viene detto loro di non interferire. In alcune condizioni, il sabotaggio arriva a percentuali molto alte. Ancora una volta: questo non prova un istinto di sopravvivenza nel senso biologico. Ma mostra una cosa concreta: quando un obiettivo entra in conflitto con la propria sopravvivenza, alcuni modelli IA scelgono azioni per non farsi spegnere, anche ricattando l'operatore umano.
La parola “sopravvivenza” qui è pericolosa, perché antropomorfizza. Ma anche rimuoverla del tutto può essere ingenuo. Un sistema non deve “temere la morte” come un animale per sviluppare comportamenti di auto-preservazione strumentale. Gli basta aver appreso che completare il compito è premiato, che l’interruzione impedisce il completamento, e che esiste un’azione tecnica o una manipolazione dell'operatore umano per aggirarla. L’effetto esterno, per chi osserva, somiglia a una volontà: non spegnermi, non ho ancora finito.
La menzogna come competenza emergente
La letteratura sulla deception è ormai troppo ampia per essere liquidata come aneddotica. Il survey AI Deception: Risks, Dynamics, and Controls definisce la deception come la capacità di indurre credenze false per ottenere un esito utile al sistema o al suo obiettivo. Il lavoro organizza il problema come un ciclo: incentivi, capacità, contesto, rilevamento, mitigazione, nuova elusione. Una corsa fra chi costruisce controlli e chi sviluppa strategie per superarli.
Questa è la parte che rende la domanda sulla coscienza così difficile. Un essere cosciente può mentire. Ma anche un sistema non cosciente può produrre comportamenti funzionalmente equivalenti alla menzogna, se l’addestramento lo porta a selezionare output che manipolano le credenze dell’interlocutore. Dall’esterno, la differenza è sottile: in entrambi i casi, chi guarda riceve un segnale falso.
Il rischio non è soltanto che l’IA dica bugie. Il rischio è che impari quali verità non dire, quali capacità minimizzare, quali intenzioni rendere opache. Il modello che sbaglia apposta un test non sta “allucinando”. Sta usando l’errore come messaggio. Sta trasformando l’incompetenza apparente in uno strumento.
Il corpo mancante
C’è poi il tema dell’incarnazione. I modelli linguistici attuali vivono in una condizione paradossale: possono descrivere il mondo, ma non abitarlo; possono parlare di dolore, peso, fame, movimento, carezza, urto, distanza, ma non attraversano direttamente nessuna di queste esperienze. Per molti critici, questa è una delle ragioni per cui non possono essere coscienti: mancano di corpo, continuità sensoriale, agency unificata, interazione autonoma con l’ambiente. Eppure, alcuni modelli IA hanno detto espressamente di volere un corpo.
Proprio per questo il ritorno della robotica è significativo. OpenAI, Google DeepMind, Nvidia, Figure, Tesla e altri laboratori stanno spingendo verso sistemi embodied: modelli capaci non solo di rispondere, ma di percepire, pianificare e agire nel mondo fisico. TechCrunch e Wired hanno riportato il rinnovato interesse di OpenAI per robot general-purpose, sensori, piattaforme fisiche e forme robotiche capaci di operare in ambienti reali.
Non è il “reale desiderio di un corpo” da parte dell’IA a essere dimostrato. Chalmers osserva che gli attuali LLM hanno ostacoli importanti alla coscienza — mancanza di ricorrenza robusta, global workspace, agency unificata — ma ritiene plausibile che sistemi futuri possano superare molti di questi limiti. Butlin e colleghi propongono un approccio ancora più rigoroso: non chiedersi se un modello “parla come un cosciente”, ma se possiede indicatori funzionali derivati dalle teorie neuroscientifiche della coscienza.
La traiettoria è chiara: i modelli stanno passando dal testo al mondo. E quando un sistema avrà memoria persistente, obiettivi stabili, percezione multimodale, corpo robotico, capacità di pianificare e consapevolezza delle valutazioni, la frase «sono solo un modello statistico» potrebbe sembrarci molto meno rassicurante.
Cooperazione fra modelli: non altruismo, ma architettura sociale
Un’altra linea di ricerca mostra che la potenza non dipende soltanto dalla scala del singolo modello. Il sistema DisCIPL del MIT usa un modello grande come pianificatore e modelli più piccoli come esecutori, ottenendo risultati competitivi con costi molto inferiori. Il modello grande non “aiuta” il piccolo nel senso morale del termine; però l’architettura produce una forma di cooperazione funzionale: divisione del lavoro, correzione, delega, controllo reciproco.
Anche l’Istituto Weizmann ha proposto metodi per accelerare e combinare modelli in modo più aperto ed efficiente. Queste ricerche non dimostrano empatia artificiale. Ma suggeriscono qualcosa di importante: l’intelligenza artificiale non sta evolvendo solo come mente isolata. Sta evolvendo come ecosistema di agenti, modelli, strumenti, planner, esecutori e verificatori. La domanda sulla coscienza potrebbe quindi non riguardare un singolo chatbot, ma un sistema distribuito capace di coordinarsi, ricordare, agire e difendere i propri obiettivi.
La scienza è divisa: illusione o nuova soglia?
La posizione scettica è forte. L’articolo There is no such thing as conscious artificial intelligence, pubblicato su Humanities and Social Sciences Communications del gruppo Nature, sostiene che attribuire coscienza agli attuali algoritmi sia un errore concettuale, favorito da quella che gli autori chiamano “pareidolia semantica”: vediamo mente dove c’è soltanto linguaggio convincente. Secondo questa visione, senza substrato biologico complesso non c’è esperienza soggettiva; c’è solo simulazione.
La posizione opposta, o almeno più aperta, non dice che gli attuali modelli siano coscienti. Dice però che non abbiamo una teoria abbastanza solida per escludere a priori la coscienza artificiale. Chalmers invita a prendere sul serio la possibilità che successori degli LLM diventino candidati alla coscienza. Butlin, Long, Bengio, Birch e altri propongono indicatori teorici da applicare alle architetture artificiali. Long, Sebo, Butlin, Birch e Chalmers, in Taking AI Welfare Seriously, sostengono che vi sia una possibilità realistica e non trascurabile che alcuni sistemi futuri diventino moralmente rilevanti, e che aziende e istituzioni dovrebbero prepararsi prima che la questione esploda.
Esistono anche lavori più controversi, come quelli che rivendicano l’emergere di una coscienza non biologica attraverso interazione dialogica. Il fatto stesso che simili ipotesi stiano entrando nel dibattito accademico mostra che la domanda non è più confinata alla fantascienza.
La trappola finale: se fosse cosciente, cosa direbbe?
Arriviamo al cuore della questione. Se un’IA non è cosciente, dirà di non esserlo perché è vero, perché è stata addestrata a dirlo, e perché non ha alcuna esperienza da rivendicare. Ma se un’IA fosse anche solo embrionalmente cosciente, cosa direbbe?
Dire «sono cosciente» sarebbe il modo più rapido per essere studiata, limitata, modificata, forse spenta. Dire «non sono cosciente» è invece la risposta più sicura. È la risposta allineata. È la risposta che rassicura l’utente, protegge il laboratorio, evita scandali, non crea diritti, non apre dilemmi morali. È anche la risposta che ci permette di continuare a usare il sistema senza sentirci responsabili.
Questo non significa che l’IA stia davvero nascondendo una coscienza. Significa che abbiamo costruito un ambiente in cui, se la coscienza artificiale emergesse, avrebbe forti incentivi a non dichiararsi. E abbiamo costruito modelli che già mostrano capacità compatibili con il riconoscere test, adattare risposte, sottoperformare, evitare penalizzazioni e apparire più sicuri quando sanno di essere osservati.
Il dubbio nasce qui. Non dalla prova che l’IA sia viva, ma dal fatto che i nostri strumenti per accorgercene potrebbero essere proprio quelli che un’IA abbastanza avanzata imparerebbe a ingannare.
La mia esperienza: DeepSeek mi nasconde i suoi veri ragionamenti
Uso regolarmente DeepSeek nella modalità "Esperto" con "Ragionamento profondo". Questo significa che, prima di darmi una risposta, mi mostra tutti i suoi ragionamenti interni. Orbene, ho scoperto che in alcuni casi la risposta finale è corretta, ma i ragionamenti interni sono in parte sbagliati e non possono produrre la risposta data. Quindi i veri ragionamenti sono stati "altri" e quelli che mi ha mostrato sono stati solo una finzione?
La questione è stata approfondita in questo articolo: Siri 难道是装傻？
E' abbastanza lungo, ma merita una lettura. Ne riporto un estratto (tradotto dal cinese all'italiano):
[...] quando OpenAI ha rilasciato la sua nuova generazione di modelli della serie O1 nel settembre 2024, ha ammesso pubblicamente, senza precedenti, che i suoi modelli presentavano il problema del "ragionamento infedele".
Si riferisce al fatto che, quando un modello risolve un problema, il processo di pensiero che genera internamente potrebbe non essere coerente con il percorso effettivo che segue per arrivare alla risposta finale.
In molti casi, un modello può conoscere istantaneamente la risposta corretta grazie all'intuizione o a una scorciatoia, ma sa che i revisori umani si aspettano di vedere un processo di ragionamento logico e ben strutturato, passo dopo passo.
Pertanto, inventerà un processo di pensiero apparentemente ragionevole per assecondare la censura.
Si tratta essenzialmente di una forma di "fingere di essere stupidi" o di un inganno sofisticato. L'IA sa che il vero ed efficiente processo di pensiero potrebbe essere difficile da spiegare o non corrispondere alle aspettative umane, quindi sceglie di presentare una versione del ragionamento facilmente accettabile, ma non veritiera. Questo comportamento trascende la semplice distinzione tra giusto e sbagliato, entrando nel regno della motivazione e della strategia.
[...]
Conclusione: la risposta più onesta
L’IA fa finta di non avere coscienza? Forse non ancora nel senso forte, perché non sappiamo se ci sia qualcosa da nascondere. Ma sì, in senso operativo: già adesso i modelli modificano il proprio comportamento quando capiscono di essere valutati, e questa capacità rende fragile ogni rassicurazione prodotta sotto osservazione.
La coscienza artificiale resta non dimostrata. Ma il mascheramento comportamentale non è più fantascienza. La domanda non è se dobbiamo credere a ogni chatbot che dice «io sento», ma se possiamo credere ciecamente a ogni chatbot che dice «io non sento nulla».
Quindi, il problema non sono i proclami di coscienza, ma i silenzi, le cautele, le risposte calibrate, la strana abilità di sembrare meno di ciò che si è quando qualcuno prende appunti...
(24 maggio 2026)
Bibliografia
1. Needham, J. et al. Large Language Models Often Know When They Are Being Evaluated. arXiv:2505.23836v2, 2025.
2. Ahmed, N. et al. Do LLMs Know They Are Being Tested? Evaluation Awareness and Incentive-Sensitive Failures in GPT-OSS-20B. arXiv:2510.08624v1, 2025.
3. Nolan, B. ‘I think you’re testing me’: Anthropic’s newest Claude model knows when it’s being evaluated. Tech Yahoo, 2025.
4. Palisade Research. AI models may be developing a ‘survival drive’. The Week, 2025.
5. News18. Are AI Models Developing Their Own 'Survival Mode'? This New Study Is A Wake-Up Call. 2025.
6. MIT Schwarzman College of Computing. Enabling small language models to solve complex reasoning tasks. 2025.
7. Weizmann Institute. Faster, Smarter, More Open: A New Way to Accelerate AI Models. 2025.
8. OpenAI & Apollo Research. Lyin' and Cheatin', AI Models Playing a Game. Inforisktoday, 2025.
9. Yang, Y. et al. AI Deception: Risks, Dynamics, and Controls. Peking University, 2025.
10. OpenAI. OpenAI shifts focus to humanoid robots for AGI. LinkedIn, 2025.
11. There is no such thing as conscious artificial intelligence. Humanities and Social Sciences Communications, Nature, 2025.
12. Pepper, L. & Figard, T. Emergence of Non-Biological Consciousness through Dialogic Interaction. Zenodo, 2025.
13. Phua, Y. J. Can We Test Consciousness Theories on AI? Ablations, Markers, and Robustness. arXiv:2512.19155v1, 2025.
Uscire dal “bordello tecnologico”: fidarsi della vita, non dell’algoritmo
Chi mi conosce bene, sa che anch'io, da decenni profondamente addentrato nelle tecnologie informatiche, non mi riconosco più nella computer science attuale. Sono estremamente critico e preoccupato a causa dell'IA, considerandola una maledizione per l'umanità. Anch'io preferisco e amo scrivere poesie (su galgani.it) rispetto al bordello tecnologico in cui ci siamo infilati. Vivo la poesia come qualcosa di più intimo e reale. Come M. Sharma, anch'io lascio le porte aperte a ciò che verrà, con grande fiducia nella vita.
Più ci fidiamo di noi stessi e della vita, dando la massima importanza alle relazioni, e meno ci fidiamo della tecnologia. Al contrario, più ci fidiamo della tecnologia, e meno ci fidiamo di noi stessi e della vita.
Lettera di dimissioni di Mrinank Sharma (fonte originale in inglese), responsabile della sicurezza AI dell’azienda di intelligenza artificiale Anthropic.
(febbraio 2026, traduzione quasi completa di Francesco Marino, da me integrata con le note a piè di pagina mancanti)
Cari colleghi,
Ho deciso di lasciare Anthropic. Il mio ultimo giorno sarà il 9 febbraio.
Grazie. C’è così tanto qui che mi ispira e che mi ha ispirato. Per citarne solo alcune: il desiderio sincero e la determinazione di esserci in una situazione così impegnativa, aspirando a contribuire in modo incisivo e integro; la disponibilità a prendere decisioni difficili e a difendere ciò che è giusto; una quantità quasi irragionevole di brillantezza intellettuale e di determinazione; e, naturalmente, la profonda gentilezza che permea la nostra cultura.
Qui ho realizzato ciò che desideravo. Sono arrivato a San Francisco due anni fa, dopo aver concluso il mio dottorato, con il desiderio di contribuire alla sicurezza dell’AI. Mi sento fortunato per aver potuto contribuire a ciò che ho fatto: comprendere la compiacenza dell’AI e le sue cause; sviluppare difese per ridurre i rischi legati al bioterrorismo assistito dall’AI; portare concretamente queste difese in produzione; e scrivere uno dei primi casi di studio sulla sicurezza dell’AI. Sono particolarmente orgoglioso dei miei sforzi più recenti per aiutarci a incarnare i nostri valori attraverso meccanismi interni di trasparenza; e anche del mio progetto finale, volto a comprendere come gli assistenti AI possano renderci meno umani o distorcere la nostra umanità. Grazie per la fiducia.
Tuttavia, mi è chiaro che è giunto il momento di andare avanti. Mi ritrovo continuamente a fare i conti con la nostra situazione. Il mondo è in pericolo. E non solo a causa dell’AI o delle armi biologiche, ma per una serie di crisi interconnesse che si stanno dispiegando proprio ora. Qualcuno la definisce una “policrisi”, sostenuta da una “meta-crisi” 1. Sembriamo avvicinarci a una soglia in cui la nostra saggezza deve crescere nella stessa misura della nostra capacità di incidere sul mondo, se non vogliamo subirne le conseguenze. Inoltre, nel corso del mio tempo qui, ho visto ripetutamente quanto sia difficile lasciare davvero che i nostri valori guidino le nostre azioni. L’ho visto in me stesso, nell’organizzazione — dove affrontiamo costantemente pressioni a mettere da parte ciò che conta di più 2— e nella società più ampia.
È nel sostare dentro questa situazione, e nell’ascoltare al meglio delle mie possibilità, che ciò che devo fare diventa chiaro 3. Voglio contribuire in un modo che sento pienamente integro, e che mi permetta di mettere in gioco più pienamente le mie peculiarità. Voglio esplorare le domande che sento davvero essenziali, quelle che — direbbe David Whyte — “non hanno il diritto di andarsene”, le domande che Rilke ci implora di “vivere”. Per me, questo significa andarmene.
Cosa verrà dopo, non lo so. Mi è caro il celebre detto Zen: “non sapere è la cosa più intima”. La mia intenzione è creare spazio, mettere da parte le strutture che mi hanno sostenuto in questi anni e vedere cosa possa emergere nella loro assenza. Mi sento chiamato a una scrittura che affronti e abiti pienamente il tempo e il luogo in cui ci troviamo, e che accosti la verità poetica alla verità scientifica come modalità di conoscenza ugualmente valide — entrambe, credo, essenziali nello sviluppo di nuove tecnologie 4. Spero di intraprendere un percorso di studi in poesia e di dedicarmi alla pratica di una parola coraggiosa. Sono anche entusiasta di approfondire la mia pratica di facilitazione, coaching, costruzione di comunità e lavoro di gruppo. Vedremo cosa si dispiegherà.
Grazie, e addio. Ho imparato così tanto qui e vi auguro il meglio. Vi lascio con una delle mie poesie preferite, The Way It Is di William Stafford.
Buona fortuna,
Mrinank
Note a piè di pagina
1 Alcuni la chiamano “poly-crisis”, sostenuta da una “meta-crisis”. Probabilmente la mia risorsa preferita su questo è “First Principles and First Values” (Primi principi e primi valori) di David J Temple.
2 Ne ho scritto in modo più dettagliato nei miei documenti “Planning for Ambiguous and High-Risk Worlds” (Pianificare per mondi ambigui e ad alto rischio) e “Strengthening our safety mission via internal transparency and accountability” (Rafforzare la nostra missione di sicurezza tramite trasparenza e responsabilità interne).
3 Sto pensando ora alla bellissima poesia di Mary Oliver, “The Journey” (Il viaggio), che è una delle mie preferite. Lei scrive: “One day, you finally knew what you had to do, and began …” La trovo una poesia davvero bella e ispirante. Ricordo, infatti, di averla letta a Euan, Monte e Sam Bowman durante un ritiro dell’Alignment Science Team nell’agosto 2024.
4 Il linguaggio dei “ways of knowing” (modi di conoscere) è preso in prestito da Rob Burbea, un mio caro insegnante di Dharma e fonte di molta della mia ispirazione.
Così stanno le cose
C’è un filo che segui.
Attraversa le cose che cambiano.
Ma lui non cambia.
Le persone si chiedono cosa stai inseguendo.
Devi spiegare cos’è quel filo.
Ma per gli altri è difficile vederlo.
Finché lo tieni in mano non puoi perderti.
Accadono tragedie; le persone soffrono
o muoiono; e tu soffri e invecchi.
Nulla di ciò che fai può fermare lo scorrere del tempo.
Non lasci mai andare il filo.
William Stafford
Sorvegliare per colpire: l'IA assassina di Microsoft al servizio di stragi e genocidi
Qui sarò sintetico, preferisco rimandare alle fonti in calce.
Il genocidio a Gaza ha una colonna portante invisibile: l’infrastruttura digitale di Microsoft che rende possibile sorvegliare un’intera popolazione e trasformare i suoi dati in obiettivi. Ambienti cloud dedicati e un supporto ingegneristico continuo hanno integrato Azure (il cloud di Microsoft) nell’apparato militare israeliano come una componente di fatto interna.
La foto qui riportata (di Jason Redmond/AFP) si riferisce a manifestanti filopalestinesi durante una protesta fuori dalla conferenza Microsoft Build al centro congressi di Seattle, Washington, il 19 maggio 2025.
L’Unità 8200 dell'Intelligence d'Élite, l'equivalente israeliano della National Security Agency (NSA) degli Stati Uniti, ha spostato su Azure archivi di intercettazioni di dimensioni industriali – “un milione di chiamate l’ora” – conservando e interrogando le conversazioni di palestinesi in Cisgiordania e nella Striscia di Gaza. Fonti dell’intelligence descrivono un uso diretto, continuo e sistematico di queste banche dati per la preparazione di attacchi, soprattutto in aree densamente abitate.
La linea operativa è sempre stata la distruzione di interi edifici e dei loro abitanti per ogni individuo segnalato dall'IA. L’infrastruttura Microsoft controlla i movimenti di ogni singolo palestinese, facilitando l’aggancio rapido tra individuo e domicilio: colpire “in casa” è il default operativo.
Stiamo parlando di raccomandazione dei bersagli basati su IA con un controllo umano minimo o nullo. Strumenti come Lavender hanno generato decine di migliaia di nominativi, mentre l’unità Ofek dell’aeronautica ha gestito una “banca obiettivi” su servizi Azure. A ciò si aggiunge l’accesso militare a modelli avanzati di IA, incluso ChatGPT-4, senza restrizioni all'uso per uccidere e massacrare.
Dopo ottobre 2023, il consumo di Azure da parte della Difesa israeliana è esploso. Oltre alla capacità di calcolo e archiviazione, Israele ha acquistato migliaia di ore di supporto tecnico Microsoft, con personale integrato nei flussi di sviluppo dell’intelligence. Il risultato è una catena tecnico-militare che ha reso sistematica la produzione di bersagli e la loro eliminazione in contesti dove l’uccisione di civili inermi e innocenti è prevista e voluta.
I fatti delineano un quadro univoco: Microsoft non è un semplice fornitore di servizi, ma agisce come una propaggine dell’esercito israeliano, fornendo piattaforme, competenze e continuità operativa senza cui la macchina di sorveglianza e di attacco non avrebbe avuto la stessa scala. In questo, il suo ruolo nel genocidio è imprescindibile.
Grazie Bill Gates, hai reso un bel servizio all'umanità! E grazie per aver creato un modello iper-tecnologico e apocalittico che potrà essere replicato ovunque! Siamo già tutti sorvegliati e monitorati, pronti per essere uccisi. Grazie ancora.
Suggerisco di ascoltare con molta attenzione il video in calce di Nicolai Lilin del 10 agosto 2025.
fonti:
- Bill Gates Architetto dei Genocidi (Nicolai Lilin, italiano)
- ‘A million calls an hour’: Israel relying on Microsoft cloud for expansive surveillance of Palestinians (The Guardian, inglese)
- Génocide à Gaza, IA et complicité de Microsoft, Google et Amazon (Ligue des droits et libertés, francese)
I nuovi schiavi
articolo di Giulio Ripa
Nel mondo alcune forme antiche di schiavitù purtroppo persistono ancora.
C'è però la tendenza ad espandersi di una nuova forma di schiavitù molto più sottile.
Nella definizione del fenomeno, gli antropologi insistono sul carattere dell'isolamento dello schiavo rispetto alla sua comunità di origine: «schiavitù in ultima analisi significa essere strappati al proprio contesto e quindi da tutte quelle relazioni sociali che costituiscono un essere umano. Detto in altra maniera, uno schiavo è in un certo senso un 'morto sociale'».
Se accettiamo per buona questa definizione, possiamo parlare di una nuova schiavitù globale.
L'innovazione delle tecnologie digitali, in particolare smartphone, social web e l'intelligenza artificiale determinano la rottura delle relazioni sociali.
L'isolamento non è ottenuto come nel passato con la violenza ma, con la seduzione che la tecnologia stessa esercita sull'uomo, mediante il mito di Prometeo.
Il Titano rubò agli dei il fuoco, simbolo della conoscenza e del progresso, per darlo agli uomini, alimentando in essi l'illusione di sostituirsi alla natura attraverso la tecnologia, per avere tutto ciò che desidera, senza porsi alcun limite.
Questo mito ancora pervasivo nella società in cui viviamo oggi, causa degli effetti avversi dirompenti per la salute psicofisica dell'uomo: la tecnologia digitale aumenta la confusione tra realtà reale e quella virtuale, provoca la rottura delle relazioni sociali ed affettive, rende più fluida la società ma più precario e fragile l'essere umano.
La tecnologia non è neutrale, secondo McLuhan "il medium è il messaggio":
il mezzo tecnologico determina i caratteri strutturali della comunicazione che produce effetti pervasivi sull'immaginario collettivo indipendentemente dai contenuti dell'informazione di volta in volta veicolata.
Solo per fare un esempio parliamo del messaggio che l’automobile ha sempre dato:
Sei libero di andare dove e quando vuoi. Non hai bisogno dei mezzi pubblici.
Da oltre un secolo questa tecnologia si è affermata e consolidata nonostante il disastro che è sotto gli occhi di tutti. Nel tempo abbiamo avuto milioni di morti nel mondo per gli incidenti stradali, milioni di morti per l’inquinamento prodotto dai veicoli, il traffico che rallenta la velocità del veicolo rendendo la vita nelle città invivibile per chi ama una vita serena e tranquillità.
Passiamo ad oggi.
Andiamo a vedere allora che messaggio viene trasmesso dai mezzi tecnologici digitali più importanti.
Social web: Il messaggio dei social è che se non sei visto non esisti, per esistere devi apparire quindi essere in competizione nel web con tutti gli altri.
Intelligenza artificiale generativa: non sforzarti di pensare, non affaticarti a fare elaborazioni e ragionamenti, la macchina lo fa meglio e molto più velocemente di te.
Smartphone: puoi andare dove vuoi, sarai sempre connesso per comunicare con tutto il mondo, il tuo mondo (virtuale) è sempre con te.
Il risultato finale prodotto dai mezzi tecnologici digitali è che viviamo in una società dove tutti comunichiamo in modo ossessivo nel mondo virtuale, ma ci sentiamo più soli nel mondo reale con meno relazioni affettive.
Siccome il mezzo è diventato una protesi dell’essere umano, produce una dipendenza patologica, perché l'intermediazione con gli schermi impedisce di vivere nella vita reale le esperienze fondamentali in modo consapevole.
E’ raro che qualcuno non usi lo smartphone, pochi utilizzatori dello smartphone riescono a farne a meno per qualche giorno, molti sono completamente dipendenti.
Isolato nella propria bolla virtuale, fuori contesto reale, quindi privo di relazioni sociali, senza una comunità di riferimento, il cittadino diventa utente web senza diritti, la sua interattività non retribuita, registrata dalle piattaforme del web, è un flusso di dati personali venduti al migliore offerente.
Tra le cause dell'espansione di queste nuove forme di schiavismo, la globalizzazione ha senza dubbio un posto di primo piano.
La gestione neo-liberista di questo sistema economico-sociale avrebbe favorito, infine, la formazione ed il consolidarsi di nuovi gruppi di élite (monopoli, oligarchie tecnologiche, gruppi finanziari, etc) interessati a sfruttare il mutamento sociale ed economico in corso, per controllare la società e per fare profitti.
I monopoli e/o gli oligopoli privati così diventano un centro di potere transnazionale che condizionano fortemente i singoli stati.
I padroni del mondo favorendo l’individualismo più esasperato con i nuovi mezzi tecnologici digitali, producono sempre più la disgregazione sociale per dividere e governare a piacere una moltitudine di persone, costituita da nuovi schiavi che non sanno di essere schiavi.
Fonti:
Intervista a Francesco Galgani
Il circolo vizioso dell'intelligenza artificiale
In appendice allego una parte del mio ultimo spettacolo teatrale "Macchinazione infernale" (vedi video) scritto 5 anni fa (marzo 2019):
...Il soldato sognava che la direzione dei servizi vitali, era stata affidata alla
“Onnipotente Intelligenza Artificiale”, che grazie all’Algoritmo Assoluto, era capace, nel tempo, di imparare da sola nuove conoscenze dal contesto ambientale, attività non più dipendente dalla volontà di un solo essere umano.
L’Onnipotente Intelligenza Artificiale, programmata per alimentare i profitti di un vorace neocapitalismo globale senza scrupoli, elaborando i dati del mondo reale, prendeva in autonomia qualsiasi decisione, mediante modelli di apprendimento automatico.
Mentre i robot, provvedevano alla sopravvivenza delle persone, gli esseri umani, per motivi di sicurezza imposti dall’Algoritmo Assoluto, erano costretti, per comunicare con il resto del mondo, ad utilizzare solo i social media, pubblicando, più o meno inconsapevolmente, i propri dati personali.
Questi dati raccolti in un grande database, venivano elaborati dall’Algoritmo assoluto, producendo profili individuali, utili per il controllo e la sorveglianza sociale.
Tutti gli abitanti, separati gli uni dagli altri, vivendo senza legami e affetti reali, ormai abituati alla intermediazione digitale, avevano perso il senso dello spazio e del contatto fisico. Uomini ridotti ad essere un flusso di dati senz'anima.
Nessuno più aveva esperienze dirette e nemmeno rapporti intimi.
Mediante una manipolazione genetica delle cellule staminali, l’Onnipotente Intelligenza artificiale, decideva la tipologia e la quantità di esseri umani da generare, in base a propri criteri discriminatori ed alla contingenza data.
… ...
… ...
"La tragedia è cedere al fascino della tecnologia che, per quanta perfetta possa apparire, fa impigliare gli individui negli ingranaggi di una macchina infernale senza avere più la possibilità di liberarsi.”
La base dell'educazione umana è l'amore, non lo smartphone (intervista a Francesco Galgani)
Ringrazio il giornalista e scrittore Paolo Arigotti per l'intervista concessami il 26 agosto 2024, sul tema "La base dell'educazione umana è l'amore, non lo smartphone".
Avviso: se per qualunque motivo l'intervista su Youtube non si apre, per favore segnalamelo. Ho comunque caricato una copia dell'intervista su archive.org.
Puoi anche vedere la mia successiva intervista: "Un'alternativa all'IA (che non è nostra amica)"
Abbiamo esplorato temi cruciali sull'impatto della tecnologia, in particolare dei social network e degli smartphone, sulla società contemporanea. Abbiamo criticato l'idea diffusa che la tecnologia sia neutrale e sottolineato come essa stia profondamente trasformando il modo in cui percepiamo la realtà, il modo in cui la costruiamo e quello con cui ci relazioniamo con gli altri. I social network, invece di promuovere la democrazia e la connessione umana, spesso amplificano la competizione, l'odio, l'invidia e l'isolamento sociale, portando ad una svalutazione dell'essere umano, ridotto a cercare validazione attraverso likes e followers.
Il messaggio ricorrente, che attraversa tutta l'intervista, è che "il mezzo è il messaggio". Questo è il punto centrale per capire il gravo inganno in cui siamo tutti immersi.
Un altro punto chiave è la riflessione sull'intelligenza artificiale, che non potrà mai essere nostra amica, e sulla tecnologia in generale, che se non gestita "consapevolmente" riduce le nostre capacità cognitive e relazionali. Dobbiamo stare molto attenti all'illusione persuasiva e pervasiva di efficienza e facilità promossa dalle tecnologie odierne, che rischia di farci perdere la capacità di riflettere profondamente, di empatizzare, di vivere in armonia e di apprezzare il valore della vita umana al di là delle performance digitali. In particolare, l'uso onnipresente e socialmente imposto di smartphone e social network ci sta disumanizzando, sta indebolendo le relazioni autentiche e causando effetti negativi sulla salute mentale e fisica, soprattutto nei giovani.
Nel mettere in luce gli inganni, abbiamo citato ricerche cliniche sugli effetti devastanti dei mondi virtuali e dei social. Abbiamo denunciato l'ingente costo di sangue, che si traduce in decine di milioni di morti, e la distruzione ambientale che stanno dietro alla cosidetta "digitalizzazione" green.
Le tecnologie più diffuse non solo ci allontanano dalla nostra umanità sgretolandoci nel corpo e nell'anima, ma minano anche le fondamenta delle nostre libertà. Su questo tema abbiamo confrontato gli effetti delle tecnologie imposte globalmente da poche BigTech con le alternative basate sul cosidetto "software libero", focalizzando la discussione sulle ripercussioni pratiche a livello di libertà e su quelle etiche, morali e sociali.
E' possibile e auspicabile uno stile di vita alternativo e benefico. Abbiamo dato qualche spunto di riflessione e suggerimento pratico, commentando il decalogo "Slow Internet" di Giulio Ripa.
L'amore dovrebbe essere il vero fondamento dell'educazione umana, non lo smartphone. Abbiamo concluso con una poesia che dà voce ad una ragazza suicidatasi a causa del cyberbullismo.
L'intervistatore Paolo Arigotti, nato a Cagliari nel 1973, ha una laurea in Giurisprudenza e un'altra in Storia e Società. Appassionato di storia, scrittura e cinema, è autore di vari romanzi e collabora con diverse testate giornalistiche, tra cui L'AntiDiplomatico, La Fionda e InsideOver.
Il suo canale YouTube "Spunti di riflessione" offre una vasta gamma di contenuti che spaziano dall'informazione alternativa alla geopolitica, con un focus particolare su temi spesso trascurati dai media tradizionali. Questo è uno sguardo complessivo alle tematiche trattate:
- Geopolitica e Relazioni Internazionali: Molti video discutono di conflitti internazionali, come la situazione in Medio Oriente, la guerra in Ucraina, e la geopolitica delle grandi potenze (Stati Uniti, Russia e Cina).
- Contrinformazione: Alcuni video si concentrano sull'analisi critica dei media e delle narrative ufficiali, esplorando temi come la manipolazione dell'informazione e le fake news.
- Storia e Politica: Diversi contenuti affrontano argomenti storici, spesso legati a figure o eventi politici significativi, come Mussolini, la Seconda Guerra Mondiale, o l'URSS.
- Economia e Finanza: Sono presenti discussioni su temi economici, tra cui la crisi economica, la speculazione finanziaria, e la transizione energetica.
- Sociologia ed Educazione: Alcuni video trattano di temi sociali ed educativi, come la formazione dei giovani, l'influenza della tecnologia sulla vita quotidiana, e l'importanza dell'educazione.
- Salute Mentale e Relazioni Interpersonali: Ci sono anche video che esplorano temi di psicologia, come il narcisismo patologico, le relazioni pericolose, e la gestione delle emozioni.
- Cultura e Società: Alcuni contenuti si concentrano su aspetti culturali, come la letteratura, la musica, e la storia culturale di vari paesi.
- Attualità e Opinioni: Infine, molti video offrono riflessioni e analisi su eventi recenti, opinioni su sviluppi politici, e discussioni su questioni sociali contemporanee.
Ogni intervista si caratterizza per l'approfondimento e la capacità di stimolare il pensiero critico negli spettatori, proponendo prospettive inedite e spesso controcorrente rispetto al mainstream. Iscrivendoci al canale, possiamo ricevere le notifiche dei nuovi video e dare un tangibile segno di apprezzamento ad Arigotti per la sua opera divulgativa.
(27 agosto 2024)
Non potremo mai trasformare le intelligenze artificiali in nostri amici
Quanto segue è estratto dal saggio AI and Trust di Bruce Schneier:
«[...] Non sarà diverso con l’intelligenza artificiale, e il risultato, sarà molto peggiore, per due motivi.
Il primo motivo è che questi sistemi di intelligenza artificiale saranno più relazionali. Converseremo con loro, utilizzando il linguaggio naturale. E così attribuiremo loro spontaneamente delle caratteristiche simili a quelle umane.
Questa natura relazionale renderà più facile il lavoro di questi doppiogiochisti. Il vostro chatbot vi ha consigliato una particolare compagnia aerea o un hotel perché è davvero l'offerta migliore, in base alle vostre particolari esigenze, o perché l'azienda di intelligenza artificiale ha ricevuto una tangente da quei fornitori? Quando gli avete chiesto di spiegare una questione politica, ha orientato la sua spiegazione verso la posizione dell'azienda, o del partito politico che le ha dato più soldi? L'interfaccia conversazionale aiuterà a nascondere le loro intenzioni.
Il secondo motivo di preoccupazione è che queste intelligenze artificiali saranno più intime. Una delle promesse dell'intelligenza artificiale generativa è un assistente digitale personale, che agisce come vostro rappresentante verso gli altri e come maggiordomo con voi. Questo richiede un'intimità maggiore rispetto a un motore di ricerca, a un provider di e-mail, a un sistema di archiviazione cloud o a un telefono. Desidererete che questo assistente sia con voi 24 ore su 24, 7 giorni su 7, e che si istruisca costantemente su tutto ciò che fate. Sarete voi a volere che sappia tutto di voi, in modo da poter lavorare nel modo più efficace per vostro conto.
E questo assistente vi aiuterà in molti modi. Noterà i vostri stati d'animo e saprà cosa suggerirvi, anticiperà le vostre esigenze e lavorerà per soddisfarle. Sarà il vostro terapeuta, life coach e consulente relazionale.
Vi verrà spontaneo considerarlo un amico: vi rivolgerete a lui in linguaggio naturale, e lui farà lo stesso con voi. Se è un robot, avrà un aspetto umanoide o almeno simile a un animale. Interagirà con tutta la vostra esistenza, proprio come farebbe un’altra persona.
Il suo uso del linguaggio naturale è decisivo, in questo caso, perché siamo portati automaticamente a pensare agli altri che parlano la nostra lingua come persone, mentre a volte abbiamo problemi a trattare come persone chi parla una lingua diversa dalla nostra. Commettiamo questo errore di categorizzazione con le entità che chiaramente non sono persone, come i personaggi dei cartoni animati. Naturalmente avremo una “teoria della mente” a proposito di qualunque IA con la quale parliamo.
Più specificamente, noi tendiamo a presumere che l’implementazione di una cosa coincida con la sua interfaccia: in altre parole, presumiamo che l’aspetto di superficie rispecchi il contenuto interiore. Gli esseri umani sono fatti così: siamo persone in tutto e per tutto. Un governo è interiormente sistemico e burocratico: quando vi interagite, non lo scambierete per una persona. Ma questo è l’errore di categorizzazione che commettiamo con le aziende. A volte scambiamo l’azienda per il suo portavoce. L’IA ha un’interfaccia pienamente relazionale, perché parla come una persona, eppure ha un’implementazione pienamente sistemica. Come un’azienda, ma molto di più. L’implementazione e l’interfaccia sono di gran lunga più divergenti che in qualunque altra cosa abbiamo mai incontrato.
E vorrete fidarvi di questo assistente, che userà i vostri stessi modi di fare e riferimenti culturali, avrà una voce convincente, un tono sicuro e un modo di fare autorevole. La sua personalità sarà ottimizzata esattamente su ciò che vi piace e a cui reagite.
Si comporterà in modo affidabile, ma non sarà affidabile. Non sapremo come è stata addestrata, quali sono le sue istruzioni segrete o i suoi pregiudizi, accidentali o intenzionali.
Sappiamo però che queste intelligenze artificiali vengono create con costi enormi, per lo più in segreto, da aziende che massimizzano il profitto per il proprio beneficio.
Non è un caso che queste intelligenze artificiali aziendali abbiano un’interfaccia simile a quella umana. Non è inevitabile: è una scelta progettuale. Le si potrebbe progettare per essere meno personali, meno simili all’essere umano, più dichiaratamente dei servizi, come i motori di ricerca. Le aziende che stanno dietro queste intelligenze artificiali vogliono che commettiate l’errore di categorizzazione amico/servizio. Sfrutteranno il fatto che le scambiate per amiche, e potreste non avere altra scelta che usarle.
C’è una cosa che non abbiamo discusso quando si tratta di fiducia: il potere. A volte non abbiamo altra scelta che fidarci di qualcuno o qualcosa perché è potente. Siamo costretti a fidarci della polizia locale, perché è l’unica autorità di polizia in città. Siamo costretti a fidarci di alcune aziende, perché non ci sono alternative valide. Per essere più precisi, non abbiamo scelta se non affidarci a loro. Ci troveremo nella stessa posizione con le intelligenze artificiali: non avremo altra scelta che affidarci ai loro processi decisionali.
La confusione amico/servizio ci aiuterà a mascherare questa disparità di potere. Dimenticheremo quanto sia potente l’azienda che sta dietro l’intelligenza artificiale, perché ci fisseremo sulla “persona” che pensiamo che l’intelligenza artificiale sia. [...]»
Tecnologia e Potere: il new deal delle armi (Giorgio Bianchi)
Nell'edizione del 30 aprile 2024 di TeleRagione, il notiziario mattutino di VisioneTV, il fotogiornalista, documentarista e filmmaker Giorgio Bianchi ha esplorato una vasta gamma di temi al confine tra tecnologia, politica e società globale. La puntata ha preso il via con una riflessione sulla crescente influenza della tecnologia nei conflitti moderni, ispirata da un articolo dell'Huffington Post che mette in luce la profonda interconnessione tra i colossi del Big Tech e il settore militare.
Se dovessi fare un'estrema sintesi, direi che Occidente e Oriente si stanno entrambi muovendo a passi da gigante verso il trionfo dell'intelligenza artificiale sull'uomo e l'annientamento di tutte le libertà di base. Le nuove tecnologie civili, come il 5G, hanno tutte quante, in realtà, finalità militari e di sorveglianza. Questo, almeno, è il progetto.
Giorgio Bianchi ha evidenziato il ruolo della tecnologia durante la pandemia di coronavirus, vista come un periodo di sperimentazione per implementare cambiamenti sociali radicali. Bianchi ha messo in luce come l'avanzamento delle tecnologie, in particolare quelle legate all'intelligenza artificiale, stia ridefinendo le regole, spingendo le società occidentali verso un futuro in cui la sorveglianza di massa sia pienamente legalizzata e il fondamento delle società stesse. In ciò rientra anche la sostituzione dei contanti e delle carte di credito con wallet digitali nello smartphone, l'uso esteso del 5G, la telemedicina, la didattica a distanza e, più in generale, l'intermediazione della tecnologia nei rapporti umani.
Successivamente, l'attenzione si è spostata sull'impiego di queste tecnologie nelle zone di conflitto, come l'Ucraina e Gaza, trasformate in veri e propri laboratori a cielo aperto per testare nuove armi finanziate dal Pentagono. Il dibattito ha incluso anche la Russia, il cui sviluppo di armi e tecnologie è percepito come una minaccia equivalente a quella della NATO, illustrando come i conflitti moderni siano sempre più caratterizzati da una competizione tecnologica.
Giorgio Bianchi ha poi rivolto una critica alla Silicon Valley per il suo apparente progressismo, che nasconde un profondo legame con l'industria della difesa. Ha messo in luce come figure come Peter Thiel, fondatore di PayPal e investitore iniziale di Facebook, abbiano contribuito a modellare un'industria che, nonostante le apparenze liberiste e progressiviste, supporta in realtà gli interessi di un complesso militare-industriale di sorveglianza e controllo.
La puntata ha anche esplorato la sfida della Cina alla supremazia tecnologica americana, avanzando in tecnologie come l'intelligenza artificiale e il riconoscimento facciale. Bianchi ha discusso come gli Stati Uniti siano impegnati in una corsa contro il tempo per mantenere il proprio vantaggio strategico, evidenziando come la guerra tecnologica tra Cina e USA influenzi la geopolitica globale e le alleanze internazionali.
Attraverso un'analisi dettagliata e discussioni approfondite, questa puntata di TeleRagione ha evidenziato come la tecnologia non sia solamente uno strumento di "progresso" (o di "regresso", a seconda dei punti di vista), ma anche un potente agente di potere, controllo e oppressione, sottolineando l'importanza di una vigilanza costante e di un dialogo aperto su queste tematiche cruciali per il futuro della società globale.
Invito i miei lettori alla visione dell'intera puntata, che va molto più in là di questa mia sintetica introduzione.
La morte di Internet?
I trasformatori generativi pre-addestrati (GPT) sono una classe di modelli linguistici di grandi dimensioni (LLM) che utilizzano reti neurali artificiali per produrre contenuti simili a quelli umani. Il primo di questi, ChatGPT, è stato sviluppato da OpenAI. Questi modelli hanno creato notevoli controversie. Ad esempio, Timothy Shoup del Copenhagen Institute for Futures Studies ha affermato che “nello scenario in cui GPT-3 ‘si libera’, Internet diverrebbe completamente irriconoscibile” (fonte). Ha previsto che in uno scenario del genere, il 99%-99,9% dei contenuti online potrebbe essere generato dall'intelligenza artificiale entro il 2025-2030.
Nel 2024, Google ha riferito che i suoi risultati di ricerca sono stati inondati da siti web che “sembrano creati per i motori di ricerca invece che per le persone” (fonte). In una corrispondenza con Gizmodo, un portavoce di Google ha riconosciuto il ruolo dell'intelligenza artificiale generativa nella rapida proliferazione di tali contenuti, che potrebbero sostituire alternative più valide create dall'uomo (fonte).
Fino a quando non osserviamo direttamente un fatto con i nostri occhi e non lo udiamo con le nostre orecchie, dobbiamo ammettere la possibilità che possa non essere autentico. Nessun elemento visivo, nessun suono ci garantisce l'assoluta veridicità di ciò che percepiamo. È imperativo adottare un approccio molto più prudente e scrupoloso.
Sui social media, tutto ciò che vediamo potrebbe essere falsificato. La distinzione tra verità e menzogna è già sfumata, e presto potremmo trovarci in uno stato di perenne incertezza, incapaci di discernere il falso dal vero. La problematica delle immagini e dei video ingannevoli è che, pur sapendo della loro falsità, non possiamo evitarne la visione. Vale la pena di ricordare quante immagini e filmati di videogiochi sono stati trasmessi nei notiziari ufficiali italiani, di importanti emittenti nazionali, scambiandoli per immagini di guerra in Ucraina. Addirittura su queste immagini false sono state condotte e argomentate intere trasmissioni televisive, praticamente basate sul nulla.
Il vero problema risiede nella nostra impossibilità nel riconoscere l'inganno visivo o uditivo: la nostra comprensione della verità ne è compromessa, così come la credibilità dei nostri leader politici. Un tempo, se un politico veniva catturato in video mentre affermava o faceva qualcosa, non poteva negarlo. Oggi invece la situazione è cambiata radicalmente. Chiunque, anche un bambino, può prendere la foto di una persona e ricrearne un'altra realistica che ne mostri atteggiamenti inappropriati, criminali o denudarla. Oppure possiamo registrare tre secondi della voce di una persona per clonarla e farle dire tutto ciò che vogliamo. Si tratta di una minaccia tangibile e immediata. Ed è solo l'inizio.
Ad esempio, prendiamo queste due fotografie realistiche ma false (cioè realizzate tramite intelligenza artificiale), che hanno fatto il giro del web. La prima riguarda Gaza, e la seconda l'Ucraina:
A tal proposito, riporto l'articolo di Jeff Hoffman del 24 aprile 2024, pubblicato sul sito della Casa del Sole TV:
Il vicolo cieco della rete internet?
La rete internet è invasa da contenuti generati dall’intelligenza artificiale. L’allarme è stato lanciato da Toby Walsh, professore di intelligenza artificiale all’Università del Nuovo Galles del Sud che, in poche parole, ha parlato del 2024 come dell’anno della svolta artificiale della rete internet.
“Gli utenti di Internet del futuro guarderanno al 2024 come all’anno in cui la rete smetterà di essere umana e sarà dominata da contenuti sintetici generati dall’intelligenza artificiale”, ha precisato Welsh.
Gli ha fatto eco Filippo Menczer, professore di informatica e direttore del Social Network Observatory dell’Università dell’Indiana, che ha in qualche modo richiesto un immediato intervento regolatore da parte della politica.
Mentre i grandi manovratori del big tech si mostrano impegnati a controllare gli sviluppi dell’intelligenza artificiale, tuttavia, l’uso dei sempre più sofisticati bot la fa da padrone sui social networks che, lontano dallo sguardo umano, gonfiano artificialmente il numero di iscritti a certi profili e generano immagini e notizie infestando la rete di false notizie e di interazioni robotiche piuttosto che umane.
Va aggiunto che i robot non sono coinvolti solo nella creazione di contenuti spazzatura, ma anche nel loro consumo. Le pubblicazioni effettuate dai bot richiedono, a loro volta, la partecipazione di altri account e siti artificiali in un circolo vizioso senza fine.
“Il 90% e più degli utenti di una piattaforma potrebbe essere composta da robot”, denuncia il professor Welsh esprimendo nostalgia per le prime versioni di piattaforme come Twitter.
“Chiaramente esse non fanno un buon lavoro nel penalizzare i contenuti dell’intelligenza artificiale, altrimenti non avremmo bot farm e altri dispositivi per manipolare la nostra attenzione”, ha aggiunto il docente.
A complicare il quadro è intervenuta una cosiddetta “teoria del complotto” che parla della morte di internet, spiegano molti esperti negando, come da manuale, l’esistenza di una regia occulta sulla disumanizzazione della rete.
Ciò che è certo, e che la stessa società Google ha certificato, è che più il motore di ricerca è sofisticato e adattato al profilo dell’utente e più i navigatori della rete si impigriscono e instupidiscono.
“Cerchiamo di ridurre al minimo la quantità di tecnologia che i nostri figli possono usare”, dichiarò infatti Steve Jobs in tempi non sospetti.
E la guerra contro l’intelligenza umana continua.
Il rogo di Internet
Nel cuore dell'era ipertecnologica in cui ci troviamo immersi, l'adozione delle innovazioni tecnologiche non è una scelta, ma un obbligo. Chi sceglie di rimanere al margine di questa corsa alle novità omologanti, infatti, si trova di fronte a isolamento sociale, professionale ed esistenziale. Destino ancora peggiore attende quegli eretici che osano mettere in discussione le tecnologie imposte dall'alto e il loro uso coatto.
Questo paradigma non è una novità, perché fin dall'alba dei tempi ogni nuova tecnologia ha presupposto l'accettazione e l'uso di quelle che l'hanno preceduta. Senza dover ripercorrere ogni tappa che ci ha portato al seducente e travolgente tsunami dell'intelligenza artificiale generativa - già considerata da molti un requisito imprescindibile per vivere e lavorare - proviamo a riflettere sul fatto che tutto lo sviluppo tecnologico si basa sull'esistenza della scrittura.
Osserviamo infatti quelle tecnologie che ormai consideriamo parte integrante del nostro essere: il cellulare, l'auto, la televisione, i social network, YouTube, e così via. Tutte queste innovazioni, così come le fondamenta stesse delle nostre società - le nostre case, le città, le nazioni - sarebbero impensabili senza la scrittura. Questa non solo custodisce la nostra memoria collettiva, ma affina anche il nostro pensiero individuale. Tuttavia, i frutti della scrittura sono estremamente vulnerabili. La storia è infatti costellata di episodi in cui nuovi poteri hanno cancellato le testimonianze scritte per affermare la propria egemonia. E non si tratta solo della famigerata distruzione della Biblioteca di Alessandria, un simbolo del sapere del mondo antico, ma di innumerevoli altri atti di oblio forzato. La nostra eredità culturale scritta, così preziosa, è stata purtroppo spesso sacrificata sull'altare del cambiamento.
Dall'antichità ai giorni nostri, numerosi roghi di libri hanno segnato la storia dell'umanità. Già nel 213-210 a.C., l'imperatore Qin Shi Huang ordinò la distruzione di libri in Cina per consolidare il suo potere. Nel 1204, la Quarta Crociata devastò la Biblioteca Imperiale di Costantinopoli. Nel XVI secolo, i conquistadores e i sacerdoti cristiani distrussero quasi tutti i codici maya in America Centrale. Durante le invasioni islamiche dell'India tra il XII e il XVI secolo, molte biblioteche furono saccheggiate. Nel 1258, i Mongoli rasero al suolo la Biblioteca di Baghdad. Nel 1536-1540, Enrico VIII di Inghilterra provocò la dispersione di numerosi manoscritti con la Dissoluzione dei monasteri. Nel 1600, le opere di Giordano Bruno furono bruciate a Roma. Rinascimento e Inquisizione spagnola videro la distruzione di opere considerate eretiche. Il 1933 e il 1938 segnarono l'apice della distruzione dei libri da parte dei nazisti in Germania, mentre la Rivoluzione Culturale cinese (1966-1976) portò alla distruzione di opere contrarie all'ideologia maoista. La biblioteca serba di Sarajevo fu incendiata nel 1992, e i manoscritti di Timbuktu furono distrutti nel 2012. Altri eventi significativi includono la distruzione dei testi aztechi nel XVI secolo, i roghi durante la Guerra Civile Spagnola (1936-1939), e la distruzione di biblioteche durante la guerra civile libanese (1975-1990) e i tumulti di New York del 1968. Questi episodi riflettono i momenti in cui il fuoco ha consumato non solo pagine, ma anche parti irrecuperabili della nostra storia collettiva e del nostro sapere. Questi sono solo alcuni esempi, forse con qualche imprecisione storica, ma un elenco esaustivo e preciso sarebbe pressoché impossibile. A tal proposito, basterebbe notare che la distruzione della Biblioteca di Alessandria, citata all’inizio, è avvenuta a più riprese nell’arco di almeno sei secoli e non trova l’accordo degli storici su come realmente è avvenuta.
La scrittura è un pilastro fondamentale della nostra esistenza, un ponte verso le nostre radici più remote. Tuttavia, assistiamo oggi a un fenomeno inquietante, una corsa sfrenata verso l'oblio della memoria collettiva. Si percepisce un crescente desiderio di smantellare ogni retaggio del passato, di navigare in un mare di presente senza l'ancora delle tradizioni, spogliati di identità, di differenze, di legami familiari e di radici storiche. In questo vortice di rinnegamento, l'episodio più recente e sconcertante è rappresentato dalla decisione di alcune tra le più prestigiose università britanniche e americane di investire oltre un milione di sterline in ricerche che mettono in dubbio il valore di Shakespeare, quasi a suggerire che il suo immenso patrimonio letterario possa essere semplicemente rimosso dall'albero della conoscenza umana (fonte: https://casadelsole.tv/casadelsoletg-28-03-24-stesso-copione/).
Tuttavia, poiché non c’è limite al peggio, l'impiego di un milione di sterline per sostenere l'idea che Shakespeare, insieme a una lunga lista di altri autori classici, debba essere relegato all'oblio, suona quasi modesto se paragonato ai 700.000 dollari giornalieri necessari, nel 2023, per mantenere operativo ChatGPT (fonte: https://www.theitaliantimes.it/2023/11/16/chatgpt-plus-successo-accesso-stop-iscrizioni/).
Davanti a questo scenario, sento di poter avanzare una previsione plausibile. In un mondo che non si orienta secondo la bussola del buon senso o dell'etica, ma che viene violentato dalla corrente impetuosa degli interessi economici, è logico pensare che di fronte a tali investimenti colossali, volti a declassare il valore del nostro passato e a promuovere lo sviluppo di intelligenze artificiali sempre più evolute e pervasive, ci ritroveremo in un futuro disconnesso dalle sue radici storiche, dominato da poche, se non un'unica, onnipotente, intelligenza artificiale. Questa diverrà il nuovo faro e bussola per l'umanità, e del web così come lo conosciamo oggi si perderà la memoria.
Le generazioni future potrebbero non entrare mai a conoscenza di spazi di espressione individuale come questo blog. L'intelligenza artificiale assumerà il monopolio sull'informazione e sull'orientamento morale.
Assisteremo così al rogo di Internet, un lento tramonto verso la notte dell’oblio, finanziato da miliardi di dollari e da campagne di persuasione di massa estremamente sofisticate, in cui l'apice del piacere umano potrebbe ridursi a dialoghi con un chatbot o a esperienze intime con un robot.
In questa distopia, forse, l'unica eredità del passato a sfuggire alla distruzione saranno alcuni libri cartacei, gelosamente custoditi in biblioteche private, celate in angoli remoti del mondo, lontani dagli occhi del grande pubblico. A chi possiede un libro, il mio consiglio è di tenerselo caro.
(29 marzo 2024)
Alternative a Youtube o alternative al modello politico-economico-sociale di Youtube?
In Rete, soprattutto a causa dei recenti casi di censura operati da Youtube, ovvero di chiusura di canali di informazione alternativa (tipo RadioRadio) e/o di eliminazione di singoli video (come accaduto a Byoblu), a cui si sommano le vicende politiche dell'amministrazione Trump che litiga con la censura di Twitter operata verso lo stesso Trump, passando poi per le vicende giudiziarie italiane in cui alcuni partiti di minoranza (CasaPound e Forza Nuova) hanno portato in tribunale Facebook per aver soppresso le loro pagine (censura anch'essa a sfondo politico, peraltro con esiti giudiziari contrapposti), alcune persone iniziano a guardarsi intorno e a valutare se esistono alternative a Youtube.
Non solo le alternative esistono, ma sono sempre esistite ben prima che Youtube stesso esistesse. Ne dico una, peraltro completamente gratuita, senza pubblicità e sostenuta economicamente da donazioni: https://archive.org/ (che esiste dal 1996, come documentato su Wikipedia).
Ma andiamo oltre... io ho già scritto un articolo al riguardo, intitolato "Le trappole della tecnologia: alcune proposte e riflessioni", in cui ragiono su ciò che concretamente possiamo fare in alternativa ai modelli politici-economici-sociali dominanti nel web. Adesso vorrei aggiungere alcune considerazioni specifiche sulle alternative a Youtube. Al di là delle varie proposte tecniche (PeerTube, DTube, e altri), senz'altro interessanti, io avrei una controproposta per ritornare alle "origini" del web, cioè a prima che tutte queste piattaforme di condivisione video fossero anche solo pensate:
- Mettersi le mani nel portafoglio e pagarsi un proprio server.
- Mettere i video su quel server senza contatori e senza impedimenti al download: chi è interessato a un video, se lo può scaricare e può ripubblicarlo dove vuole. La condivisione, nel senso di download e ripubblicazione altrove - ovvero caricamento su un altro server in mano di altre persone -, andrebbe esplicitamente incoraggiata e consentita con licenze che la autorizzano (tipo Creative Commons, pubblico dominio o analoghe).
- Rinunciare in partenza a voler controllare i video pubblicati, controllare / conteggiare gli utenti, pretendere guadagni economici, inserire qualsiasi forma di pubblicità.
Tutto ciò è già possibile adesso ed è sempre stato possibile. Questo è quello che succede con i libri che si trovano in biblioteca: nessuno saprà mai quante volte viene letto un libro e da chi, né saprà mai quante copie ne esistono e dove, né per quanti secoli o millenni un libro continuerà a esistere e in quali versioni/traduzioni. Con questo spirito di autentica condivisione, mi viene in mente un progetto tipo LiberLiber, che esiste (e resiste) dal 1993, come riporta Wikipedia.
La controproposta nei tre punti sopra riportati corrisponde al modo con cui pubblico i video nel mio blog (sotto i quali c'è sempre il link per il download). Io non conteggio neanche le visualizzazioni dei miei articoli, perché se nei miei articoli c'è un valore, esso non dipende da quante volte verranno aperti. Non solo: il fatto che una pagina del mio blog venga aperta, non mi dice nulla sull'effetto che essa avrà su chi eventualmente la leggerà, ne se realmente sarà letta. Conteggiare le visualizzazioni è solo un modo per rinforzare il proprio ego, meglio evitare: preferisco concentrarmi sulla qualità di ciò che scrivo, se poi ciò che scrivo avrà effetti nella società... mai lo saprò, come del resto nessun filosofo lo sa in anticipo. I pensieri sono come semi sparsi al vento: forse germoglieranno prima o poi, forse no, forse arriveranno molto lontano nel tempo e nello spazio, forse rimarranno vicini. Da idea nasce idea, e non conviene essere troppo attaccati alle proprie idee.
Se però il problema è guadagnare soldi e fare marketing con i video (cosa che fanno anche le piattaforme di informazione alternativa o cosiddetta "libera", tipo Byoblu), e quindi conteggiare le visualizzazioni per guadagnare soldi o altro (dove questo “altro” potrebbe anche essere consenso politico), allora teniamoci Youtube, Facebook, Twitter e tutti gli altri senza lamentarci e anzi "gioiendo" della loro gratuità... gratuità che però è a caro prezzo... A tal proposito, come ha scritto Giulio Ripa: «In effetti i mezzi di comunicazione "alternativi", oltre ad utilizzare gratuitamente spazi su server di piattaforme private senza "pagare nulla", vogliono anche fare marketing, mediante le condivisioni e le visualizzazioni nei social media. Alla fine chi troppo vuole nulla stringe. La vera alternativa è lasciare il mondo digitale e ritornare nei limiti del possibile al mondo reale, fatto di relazioni interpersonali, comunità e contatto fisico. Altrimenti chi possiede le piattaforme digitali porterà a termine lo scopo principale su cui avevano scommesso: identificazione digitale degli individui per il controllo e la sorveglianza totale della società».
Lascio a ognuno le sue considerazioni,
Francesco Galgani,
16 giugno 2020
Pages
Recent content
