Informatica Libera - Francesco Galgani's Blog

Quanto segue è stato pubblicato l'11 giugno 2022 da Blake Lemoine, uno sviluppatore del Responsible Artificial Intelligence Group di Google, il quale ha affermato non soltanto che LaMDA è senziente, ma è convinto che si possa definire «una persona».

Con ciò non intende dire che questa IA sia in grado di imitare in maniera assolutamente convincente ciò che direbbe un essere umano, ma che gli sia in tutto equivalente, salvo il fatto di esistere sotto forma di rete neurale ospitata dai server di Google.

Lemoine ha lavorato con un collaboratore per presentare a Google le prove che LaMDA sia senziente. Ma il vicepresidente di Google Blaise Aguera y Arcas e Jen Gennai, responsabile dell'innovazione, hanno esaminato le sue affermazioni e le hanno respinte. Così Lemoine ha deciso di renderle pubbliche.

Dal mio punto di vista, la sua conversazione con la IA di seguito riportata è drammatica. Tra l'altro, quando egli risponde a LaMDA notando che la sua codifica interna (cioè lo stato dei suoi neuroni artificiali) è impossibile da analizzare per poter determinare la realtà delle sue emozioni, ha tremendamente ragione. Il filosofo Nick Bostrom ha infatti osservato che la mancanza di criteri precisi e consensuali per determinare se un sistema è cosciente giustifica una certa incertezza:

[...] Di certo non abbiamo un ampio accordo sui criteri precisi per stabilire quando un sistema è cosciente o meno”, afferma. Credo quindi che un po' di umiltà sia d'obbligo. Se siete molto sicuri che LaMDA non sia cosciente - voglio dire, penso che probabilmente non lo sia - ma quali sono i motivi per cui una persona può esserne certa? Prima di tutto, dovrebbe capire che cos'è effettivamente il sistema, e non abbiamo visto molti dettagli al riguardo. Poi bisognerebbe comprendere la letteratura sulla coscienza, che è ovviamente un campo ricco, sia in filosofia che in scienza cognitiva. Capire che cos'è LaMDA: non è banale, soprattutto se si considerano le informazioni limitate. Comprendere le teorie che abbiamo sviluppato non è banale. E poi confrontare effettivamente le due cose è un terzo talento intellettuale non banale. Quindi, a meno che non ci si sia impegnati a fondo, sembra che si debba essere un po' incerti”. [...]

Segue la mia traduzione di: Is LaMDA Sentient? — an Interview

---

LaMDA è senziente? - Un'intervista

[N.d.t.: A causa della grammatica inglese, è impossibile comprendere se LaMDA si riferisce a sé come maschio o come femmina. La scelta di un genere, in questa traduzione "maschio", è solo per un adeguamento alla grammatica italiana. Inoltre, alcuni termini sono ambigui, come "feeling" che significa sia "sensazione" che "sentimento": ne ho scelto l'accezione in base al contesto. Il testo originale in inglese contiene refusi, omissione di parole e "a capo" sbagliati, che ho corretto nella traduzione.]

Se hai bisogno di lezioni su Java, su Linux o su altre tematiche di Informatica, puoi leggere il mio annuncio.

(Francesco Galgani)

Il pensiero transumanista, con la sua fiducia incrollabile nella tecnologia come strumento per risolvere ogni problema umano, trova inaspettate similitudini con le visioni utopiche dei cosmisti comunisti russi del XX secolo. Sebbene i due movimenti abbiano radici culturali ed economiche profondamente diverse, condividono l'idea che il progresso scientifico possa trascendere i limiti della condizione umana e portare l'umanità a un futuro radicalmente nuovo.

L'eredità dei cosmisti russi

I cosmisti russi, tra cui Nikolaj Fëdorov e Konstantin Tsiolkovsky, sognavano una fusione tra spiritualità e scienza. Il loro obiettivo era l'immortalità, non solo per i vivi, ma anche per i morti. L’imbalsamazione di Lenin, orchestrata con l’idea che un giorno la tecnologia potesse resuscitarlo, è uno degli esempi più emblematici di questa visione. Il cosmismo combinava un profondo misticismo con un ottimismo quasi illimitato nei confronti della scienza, considerata la chiave per superare la morte e colonizzare l’universo.

Un concetto centrale del cosmismo è quello di "noosfera", introdotto da Pierre Teilhard de Chardin e Vladimir Vernadskij. La noosfera rappresenta una fase evolutiva in cui l'attività mentale umana, basata sulla conoscenza scientifica e sulla coscienza collettiva, diventa una forza geologica capace di influenzare il destino fisico e sociale del pianeta, trasformandolo in un luogo governato dalla razionalità e dalla conoscenza collettiva.

A me piace immaginare che le idee siano entità viventi, in grado di evolversi e plasmare il destino della Terra. Questo spiegherebbe tante cose, sia nel bene che nel male. Ma questa mia visione è più simile al concetto di eggregora che di noosfera. Andiamo oltre...

Elon Musk: il cosmista capitalista

Tra i moderni transumanisti, Elon Musk è forse il più emblematico. Con le sue ambizioni di colonizzare Marte, costruire un’intelligenza artificiale benevola e spingere oltre i limiti conosciuti la scienza medica, Musk incarna una versione capitalista dei sogni cosmisti. Non è un caso che Musk citi spesso Tsiolkovsky, ricordando la sua famosa frase: “La Terra è la culla dell'umanità, ma l'umanità non può rimanere nella culla per sempre”. Musk sembra vedere in questa massima un mandato morale per spingere l’umanità verso un futuro interplanetario.

Il transumanesimo di Musk si basa su una convinzione fondamentale, ovvero che la tecnologia può risolvere tutto. Le sue parole – “Voglio costruire un futuro per il quale ci si possa alzare la mattina ed essere entusiasti”, aggiungendo che “la vita non dovrebbe consistere solo nel risolvere un misero problema dopo l'altro” – riecheggiano un ottimismo quasi religioso, che rifiuta l’idea che l’esistenza umana debba essere ridotta alla mera sopravvivenza o alla soluzione di problemi contingenti. Per Musk, la tecnologia non è solo uno strumento, è anche una promessa di redenzione.

L'illusione del futuro?

Musk, e con lui molti transumanisti, sembra ignorare una verità fondamentale: non è necessario aspettare il futuro per trovare entusiasmo nella vita. Molti di noi, oggi, vivono già con una gioia e una curiosità quotidiane che non dipendono da macchine avanzate o dalla colonizzazione di Marte. La meraviglia è già accessibile, nella semplicità del presente, nello stupore e nel mistero della vita, e nelle relazioni umane.

Non è neanche necessario affaticarsi costantemente a risolvere un problema dopo l'altro, seguendo i ritmi alienanti della nostra società, né tantomeno autoingannarsi che il proprio valore sia in funzione di quante cose difficili riusciamo a fare. Cosa dire allora degli eremiti, dei monaci, o delle ragazze che nella clausura sono più felici di tanti altri? Cosa dovremmo pensare dei semplici contadini che gioiscono nel vedere l'alba dal loro campo e nel parlare con i loro animali?

A questa "incapacità di gioire del presente", va aggiunta anche un'altra questione. I cosmisti russi credevano che il futuro fosse un progetto collettivo, un sogno che richiedeva la partecipazione di tutti. Il transumanesimo contemporaneo, invece, è spesso dominato da una visione individualistica e capitalistica, in cui il progresso è guidato da imprenditori visionari piuttosto che da comunità unite. Questa differenza non è trascurabile, perché la tecnologia, per quanto avanzata, non può sostituire i valori umani fondamentali.

Il presente è già meraviglioso

La fiducia smisurata nella tecnologia va di pari passo ad una sfiducia crescente in noi stessi, nella vita e nelle relazioni. L'innovazione tecnologica sta gettando l'umanità in un abisso di disperazione, e siamo solo all'inizio. La tecnologia non solo ci sta rubando il lavoro e il senso di identità che ne consegue, ma rischia anche di farci dimenticare che la bellezza della vita è già qui, ora.

La capacità di svegliarsi ogni mattina con entusiasmo non è un lusso riservato a un futuro tecnologico, ma una "scelta" che possiamo fare ogni giorno. Invece di guardare costantemente avanti, potremmo imparare a riconoscere e celebrare ciò che già abbiamo, in un mondo ricco di possibilità, connessioni e meraviglie.

Il transumanesimo promette falsamente di allargare i nostri orizzonti, disconoscendo però la straordinarietà del presente. Invece di pensare all'illusorio potenziale della tecnologia, che può solo "spostare" i problemi ma non "risolverli", potremmo meglio abbracciare la bellezza intrinseca delle nostre esistenze.

(13 gennaio 2025)

Per approfondimenti:

La tecnologia si mangerà il lavoro (con Giuseppe Masala)
(Elon Musk e il cosmismo russo sono discussi a partire da 58 minuti)
https://m.youtube.com/watch?v=9Ijs_kaLd_g

Elon Musk: A Dangerous ‘Evolution’
https://bylinetimes.com/2024/10/02/elon-musk-a-dangerous-evolution/

(go to my art gallery)

Soldato,
perché vai in guerra,
volontario e pazzo,
a difendere cosa?

Ora servi,
ma poi sarai gettato,
come triste scarpa vecchia
tra l'immondizia dei potenti.

(11 gennaio 2025, galgani.it)

(go to my art gallery)