Informatica Libera - Francesco Galgani's Blog

L’avvento dell’IA ha separato la capacità di agire dalla necessità di essere intelligenti per avere successo nelle proprie azioni.
Per vincere una partita a scacchi, l’IA non ha bisogno di essere intelligente, mentre, senza intelligenza, un essere umano perde in due mosse.
Ogni comparazione tra uomo e macchina è sbagliata. “Siamo due cose diverse”.
Le macchine risolvono i problemi posti dagli uomini ma non sanno porre problemi, perché non sono autocoscienti.

Stiamo però adattando l’ambiente alle macchine per permettere a queste di agire efficacemente senza intelligenza.
L’IA non può creare qualcosa di veramente nuovo, profondo o rivoluzionario senza il supporto di un essere umano.
L'IA creata dall'uomo, non può essere superiore a quella umana.
I processi cerebrali non potranno mai essere pienamente simulati da un calcolatore. Infatti, un computer per quanto evoluto possa essere, deve pur sempre ragionare seguendo una logica deterministica, ad ogni azione deve sempre corrispondere una reazione. Nell'uomo il processo è indeterminato.
L'uomo capisce che la macchina  può sbagliare perché la macchina non comprende quello che sta facendo. Ma è sempre così?
Il mezzo tecnologico IA determina i caratteri strutturali del processo cognitivo.
Dobbiamo distinguere tra chi progetta e produce l'IA e chi invece la usa. Sono due mondi diversi. La maggioranza degli uomini utenti dell'IA non sa definirne il significato e nemmeno gli scopi diversamente da chi l'ha prodotta.
La conseguenza è che la socialità virtuale, è una dimensione simulativa, un surrogato della vita, contrassegnato da un'alterazione, modificazione della realtà.
IA amplifica i processi cognitivi ma appiattisce, nella ricerca di nuove conoscenze dell’uomo, il lavoro di sintesi necessario dopo l'analisi dei contenuti.

Internet può essere considerato come un grande mare aperto dove è interessante navigare ma che comporta dei rischi di perdersi e naufragare in questo immenso mare di informazione (infosfera).
Lo sforzo mentale richiesto spaventa. Con le app non si naviga più. Tutto è più facile.
Molti utenti preferiscono non uscire dal porto, non navigano più ma galleggiano sul mare virtuale rassicurati da una intelligenza simulata (artificiale).
Gli effetti avversi sono visibili. Non sono le macchine che diventano come noi ma, siamo noi che stiamo diventando simili alle macchine.
La digitalizzazione del mondo che viviamo crea un ambiente necessario alla IA ma tossico per l’uomo.
In più Internet sta favorendo non solo la comunicazione tra uomo e macchina ma anche tra macchina e macchina (ad esempio una delle tecniche si chiama distillazione, attraverso la quale un modello di intelligenza artificiale utilizza gli output di un altro per scopi di formazione o addestramento).

In questo nuovo contesto è ovvio che l'uomo deve adattarsi all'ambiente fatto di macchine “pensanti”. Questo adattamento diminuisce il pensiero critico ed aumenta la stupidità naturale degli uomini.
Alla fine "la tragedia è che non ci sono più esseri umani, ci sono strane macchine che sbattono l'una contro l'altra." (Pasolini)

Giulio Ripa, 15 feb 2025

Lavori recenti hanno evidenziato la necessità di supportare il pensiero critico nel lavoro basato sull’IA generativa (GenAI). Questa necessità è motivata principalmente dall’osservazione che i flussi di lavoro assistiti dall’IA tendono a essere soggetti a una "convergenza meccanizzata", ovvero gli utenti con accesso agli strumenti di GenAI producono un insieme meno diversificato di risultati per lo stesso compito, rispetto a quelli che non utilizzano tali strumenti. Questa tendenza alla convergenza riflette una mancanza di giudizio personale, contestualizzato, critico e riflessivo rispetto agli output generati dall’IA, e può quindi essere interpretata come un deterioramento del pensiero critico.

[...]

Il pensiero critico nel lavoro intellettuale [ovvero lavoro che si basa principalmente sull'elaborazione, l'analisi e la gestione delle informazioni, come ricercatori, analisti, consulenti, ingegneri, giornalisti e simili, n.d.t.] coinvolge una serie di attività cognitive, come l'analisi, la sintesi e la valutazione. Abbiamo osservato che l'uso di strumenti di GenAI sposta lo sforzo di pensiero critico percepito dai lavoratori intellettuali in tre modi.

In particolare, per il richiamo e la comprensione, l'attenzione si sposta dalla raccolta di informazioni alla verifica delle stesse. Per l'applicazione, l'enfasi si sposta dalla risoluzione dei problemi all'integrazione delle risposte dell'IA. Infine, per l'analisi, la sintesi e la valutazione, l'impegno si sposta dall'esecuzione del compito alla gestione dello stesso.

L'uso della GenAI nel lavoro intellettuale crea nuovi compiti cognitivi per i lavoratori intellettuali. Il compito dell'integrazione delle risposte ne è un esempio lampante. Le persone che svolgono lavoro intellettuale devono valutare i contenuti generati dall'IA per determinarne la rilevanza e l'applicabilità ai loro compiti specifici, spesso modificando lo stile e il tono per allinearsi allo scopo e al pubblico previsti.

D'altra parte, alcuni compiti cognitivi diventano meno necessari grazie alla GenAI. Ad esempio, la raccolta di informazioni è stata notevolmente ridotta. Gli strumenti GenAI automatizzano il processo di ricerca e selezione delle informazioni rilevanti per il compito, rendendolo meno faticoso per i lavoratori intellettuali. Di conseguenza, il carico cognitivo associato alla ricerca e alla compilazione delle informazioni è diminuito.

Alcuni compiti cognitivi rimangono, ma la loro natura si è evoluta grazie alla GenAI. Uno di questi è la verifica delle informazioni, ovvero l'incrocio dei risultati generati dall'IA con fonti esterne [le quali potrebbero essere a loro volta state generate dall'IA, n.d.t.] e con la propria esperienza per garantire l'accuratezza e l'affidabilità. I lavoratori hanno sempre avuto bisogno di verificare le informazioni con cui lavorano, ma come strumento la GenAI ha i suoi punti di forza e le sue modalità di fallimento [solitamente chiamate "allucinazioni", cioè informazioni completamente false, inventate da zero e restituite dall'IA in maniera assertiva come se fossero reali, n.d.t.] quando si tratta di correttezza, accuratezza e parzialità.

Con la GenAI, i lavoratori intellettuali passano anche dall'esecuzione dei compiti alla supervisione, richiedendo loro di guidare e monitorare l'IA affinché produca risultati di alta qualità - un ruolo che definiamo “amministrazione”. Non è che l'esecuzione sia scomparsa del tutto, né che la supervisione di alto livello di un compito sia un ruolo cognitivo del tutto nuovo, ma c'è un passaggio dal primo al secondo.

A differenza della collaborazione uomo-uomo, in una “collaborazione” uomo-AI, la responsabilità e l'affidabilità del lavoro risiedono ancora nell'utente umano, nonostante il lavoro di produzione materiale sia delegato allo strumento GenAI, il che fa sì che l'“amministrazione” ci sembri una metafora più appropriata per ciò che l'utente umano sta facendo, piuttosto che compagno di squadra, collaboratore o supervisore.

Alla luce di questi cambiamenti, la formazione dei lavoratori intellettuali a pensare in modo critico quando lavorano con GenAI dovrebbe concentrarsi sullo sviluppo di competenze nella verifica delle informazioni, nell'integrazione delle risposte e nella gestione dei compiti. I programmi di formazione dovrebbero sottolineare l'importanza di fare riferimenti incrociati ai risultati dell'IA, di valutare la pertinenza e l'applicabilità dei contenuti generati dall'IA e di perfezionare e guidare continuamente i processi dell'IA. Inoltre, l'attenzione al mantenimento delle competenze di base nella raccolta delle informazioni e nella risoluzione dei problemi aiuterebbe i lavoratori a non dipendere eccessivamente dall'IA.

(mia traduzione, con note personali e aggiunta di formattazione, di parte della sezione 1 e della sezione 6.2 di "The Impact of Generative AI on Critical Thinking", pubblicato sul sito di Microsoft, 14 febbraio 2025, copia del PDF su archive.org)

Dovremmo stare molto attenti prima di parlare delle nostre sofferenze. Quando ciascuno di noi parla della propria sofferenza, definendola come "mia", si dovrebbe rendere conto che la stessa sofferenza ce l'hanno altri miliardi di persone.

Dare la giusta importanza a ciascun problema è il primo passo per il quieto vivere:

1. I problemi che la tecnologia può risolvere sono molto piccoli

2. I problemi psicologici sono un po' più grandi, ma ancora piccoli

3. I problemi politici ed economici sono davvero grandi, ma ancora gestibili

4. I problemi filosofici (soprattutto quelli relativi al “retto pensiero”) sono infiniti

Quando non c'è la pratica del retto pensiero, così come insegnata dal Budda, tutti (o quasi tutti) gli altri problemi ne conseguono. Senza un retto pensiero siamo particolarmente abili ad ingigantire i problemi, a sommare problemi su problemi, come nel caso di una persona che, nel tentare di affrontare il disordine della propria casa, continua ad ammassare oggetti su oggetti in un soqquadro che cresce sempre di più, invece di iniziare a ripulire, a gettare via, a liberare spazio, a rinunciare ai propri attaccamenti, a tutto ciò che è semplicemente inutile. In tantissime situazioni, la casa a soqquadro rappresenta la nostra mente e le nostre relazioni.

Retto pensiero significa innanzitutto che noi siamo esseri relazionali, predisposti dal concepimento in poi per buone relazioni con gli altri.

Il retto pensiero si riferisce allo sviluppo di un'attitudine mentale basata su intenzioni pure e benefiche, libere da attaccamento, avversione e ignoranza. Dovremmo comprendere che la brama, cioè il desiderio insaziabile, è una causa primaria di sofferenza. La benevolenza è parte del retto pensiero, è l'opposto dell'odio e della rabbia, significa sviluppare amorevolezza e compassione verso tutti gli esseri viventi.

Retto pensiero significa anche non violenza, cioè la rinuncia alla crudeltà, alla sopraffazione dell'uomo sull'uomo, o dell'uomo sugli animali e sulla natura. Implica la volontà di non nuocere agli altri, sia fisicamente che verbalmente o mentalmente.

Il retto pensiero dovrebbe essere la guida delle nostre parole e delle nostre azioni. Più i nostri pensieri saranno puri, più le nostre parole e azioni lo saranno, portandoci ad una vita più armoniosa.

Nell'immaginario comune, le preoccupazioni etiche e filosofiche sono all'ultimo posto, mentre quelle economiche e lavorative sono al primo posto. Ciò è pienamente comprensibile, ma guardando le cose dalla prospettiva della gerarchia dei problemi che ho proposto, possiamo vivere più consapevolmente e dare il giusto valore alle inevitabili difficoltà della vita.

Quanto alla tecnologia, il suo ruolo nelle nostre vite spesso è frutto di condizionamenti e pressioni sociali, che la rendono sostanzialmente obbligatoria. Ciò però non significa che risolva i nostri problemi, casomai potrebbe crearne molti di nuovi o spostare problemi già esistenti ad un livello diverso.

Tutti noi nasciamo in un contesto ambientale estremamente narcisista, carico di emozioni negative e di atteggiamenti distruttivi che vanno a formare e a determinare i nostri pensieri. Ciascuno di noi infatti è il frutto di cause e condizionamenti. Con un rispettoso lavoro su noi stessi, però, possiamo educare i nostri pensieri e le nostre emozioni (e le azioni che ne conseguono) in una direzione che ci faccia stare meglio, vivere meglio, poi tutto il resto verrà di conseguenza.

Potrebbe sembrare strano ai più, infatti, ma le emozioni non sono predeterminate o interamente innate: in gran parte, il modo in cui le viviamo nasce dall’educazione e dai condizionamenti. Gurdjieff, con la sua "metafora della carrozza", offre un’immagine molto chiara di come l’essere umano spesso rimanga intrappolato in uno stato di inconsapevolezza, influenzato da forze esterne che lo distolgono da una direzione autentica:

Secondo questa metafora, la carrozza è il corpo fisico, il veicolo di cui disponiamo per muoverci nel mondo. I cavalli, che trainano la carrozza, rappresentano le nostre emozioni: forze potenti, spesso incontrollate, che ci trascinano avanti o ci spingono fuori strada se non sappiamo come guidarle. A tenere le redini c’è il cocchiere, cioè la mente: è lui che decide la direzione e impartisce gli ordini; tuttavia, se il cocchiere non sa dove andare o è confuso, finisce per farsi trascinare dai cavalli. Infine, nella carrozza è seduto il passeggero, la nostra anima o coscienza, che dovrebbe scegliere la meta e indicare al cocchiere dove dirigersi. Il problema è che, per la maggior parte del tempo, questo passeggero dorme.

L'uomo vive molto spesso in una sorta di sonno interiore, ingannato dalla sensazione di essere sveglio e consapevole. In realtà siamo perlopiù in balia di pensieri ed emozioni automatiche, che ci portano a ripetere schemi abituali e limitanti. Così, crediamo di agire liberamente, ma ci muoviamo su strade già tracciate: la mente (cocchiere) segue programmi mentali incisi nell’inconscio, mentre le emozioni (cavalli) corrono senza un vero scopo, rispondendo a condizionamenti passati. Il corpo (carrozza), a sua volta, si adegua a questi impulsi e finisce per spostarsi senza una direzione precisa.

Il passo fondamentale è risvegliare il passeggero, cioè la nostra anima-coscienza, affinché torni a dare le giuste istruzioni al cocchiere (la mente) e, di conseguenza, ai cavalli (le emozioni). Solo così possiamo riprendere in mano le redini e scegliere consapevolmente dove andare. Risvegliarsi significa imparare a osservare i propri pensieri e le proprie reazioni emotive, comprendendo quanto esse siano frutto di automatismi e credenze inconsapevoli. In pratica, si tratta di passare dall’essere “pensati” dall’ambiente esterno e dall’abitudine, all’essere davvero “pensanti”.

Riconoscere la natura condizionata delle emozioni non implica negarle o reprimerle, ma accorgersi che esse possono e devono essere guidate. Come i cavalli in una carrozza, le emozioni sono un’enorme fonte di energia: se le lasciamo scatenare senza controllo, rischiano di portarci alla deriva; se invece impariamo a comunicare con loro – ossia a riconoscerle e a gestirle in modo consapevole – diventano nostre alleate, capaci di spingerci verso traguardi più elevati.

Infine, risvegliarsi significa anche capire di non essere separati dal mondo, ma di avere la responsabilità di scegliere come rispondere alle circostanze. Smettiamo di vivere in un "pilota automatico" che, come un cocchiere confuso, gira in tondo ripetendo gli stessi errori o percorrendo strade note ma insoddisfacenti. Al contrario, ci riappropriamo della nostra direzione se impariamo a prendere decisioni in armonia con ciò che davvero siamo.

Ci saranno sempre momenti piacevoli e altri brutti, periodi di maggiore fortuna e altri di disgrazia, ma con il retto pensiero, che include l'anima al comando del cocchio e la costruzione di relazioni belle con il prossimo, possiamo affrontare tutto.

(13 febbraio 2025)

Il libero arbitrio, nella sua essenza, presume che un essere con coscienza, in grado di intendere e di volere, faccia una scelta tra più alternative disponibili. Tale scelta non dovrebbe essere determinata da pressioni sociali, da inclinazioni o necessità interiori, e nemmeno forzata da leggi o ricatti, altrimenti non sarebbe “libera”. Non potrebbe nemmeno essere una reazione automatica o indotta, ma il frutto di un pensiero consapevole e giudicante, altrimenti, più che di “arbitrio”, parleremmo di un automatismo.

Se ammettessimo questa definizione, sarebbe facile accorgersi che il libero arbitrio non può esistere.

Estendendo l’analisi, mi sorge il sospetto che il vero problema non sia la natura del libero arbitrio, ma il soggetto a cui lo si vorrebbe applicare. Nessuno di noi esiste come entità indipendente da ciò che è percepito come “altro da sé”. Anzi, ciascuno di noi, in ogni istante, è il risultato precario e temporaneo di una concatenazione insondabile di cause e condizionamenti. L’intenzione consapevole è come una barca in un mare tempestoso: se riuscisse a galleggiare senza rompersi e senza affondare, sarebbe già un miracolo. Se poi fosse così potente, in una simile violenza di cause e condizionamenti, non solo da non andare a picco, ma persino da seguire una traiettoria desiderata, otterremmo qualcosa di straordinario, un vero “libero arbitrio”.

Il mio invito è quello di impegnarci a fare in modo che quella barca che naviga tranquilla, in mezzo al caos e alla disperazione imposti dalla vita, sia la nostra mente. Questo è l’unico libero arbitrio possibile, cioè rimanere in pace nonostante le cause e i condizionamenti. Giorno per giorno, approfondiamo questa pace.

(5 febbraio 2025)