Informatica Libera - Francesco Galgani's Blog

A recent private conversation reminded me of a misunderstanding that has followed Java for decades. The person I was talking to had associated Java with the browser, with JavaScript, with invasive scripts, with old plugins, with poor privacy, and with the general feeling that modern computing often forces users into systems they don’t control.

That confusion is understandable. The names are similar, old browsers really did support Java applets, browser plugins really did become a source of security and usability problems, and Java’s historical promise of “write once, run anywhere” was often experienced by end users as “install this runtime before anything works”.

But that’s not the whole story. In fact, it may be the wrong story.

Java wasn’t born to make users dependent on a runtime. Java was born to reduce dependence on operating systems. Its deepest promise wasn’t that every user should manually install Java. Its promise was that software shouldn’t have to be rewritten from scratch for every platform, every vendor, and every device category.

For a long time, that promise was only partially fulfilled. Today, however, Codename One is approaching it from a different angle: Java or Kotlin for the developer, native applications for the user, and a single codebase that can target mobile, desktop, and web environments.

The Name Collision That Never Went Away

The first misunderstanding to remove is simple but persistent: JavaScript is not Java. MDN’s JavaScript documentation explicitly warns not to confuse the two languages: they have different syntax, semantics, execution models, ecosystems, and roles in software development.

JavaScript is the scripting language of the web browser. When we open a modern website, JavaScript is typically what makes the page dynamic: menus, forms, interactive maps, client-side validation, single-page applications, live updates, animations, and countless other behaviours. It is also true that disabling JavaScript often makes modern websites unusable, because the contemporary web has become deeply dependent on it.

Java is a different language and a different platform. It is statically typed, class-based, compiled to bytecode, and historically associated with the Java Virtual Machine. It is widely used on servers, in enterprise systems, in tools, in Android’s history, and in many kinds of long-lived software infrastructure. The two languages share a confusingly similar name, but they should not be treated as variations of the same technology.

This name collision has damaged Java’s reputation among non-specialists. For many users, “Java” became a vague word associated with “things running inside the browser”. But what ran natively inside browsers was JavaScript. Java’s browser story was much more specific: it was mostly the story of applets.

Browsers Were Not “Made in Java”

The mainstream browsers of the late 1990s and early 2000s — Netscape Navigator, Internet Explorer, Opera, Safari, Mozilla, and later Firefox — were not generally “made in Java”. They were system-level applications, mostly written in compiled languages such as C and C++, because they had to integrate tightly with the operating system, handle networking and rendering efficiently, and run on hardware that was far less capable than what we take for granted today.

Java’s relationship with those browsers was different. Browsers could load Java applets: small Java programs embedded inside web pages and executed through a Java Runtime Environment and a browser plugin.

In the context of the web of the second half of the 1990s, this made sense. HTML was limited, CSS was young, JavaScript was immature, browser compatibility was chaotic, and many interactive features that we now consider ordinary were not yet available as native browser capabilities. A Java applet could provide interactive graphics, educational tools, small games, chat clients, visualizers, and custom interfaces that plain HTML could not easily deliver.

For a moment, applets looked like a possible future of web applications.

But they weren’t the future.

Why Applets Lost the Web

Java applets had real problems:

• startup could be slow;
• the runtime could feel heavy;
• browser integration was inconsistent;
• security dialogs were confusing;
• plugin versions varied;
• compatibility was fragile.

From the user’s point of view, the experience often felt alien to the page around it: a rectangular foreign object embedded into a website, waiting for a runtime to wake up.

This doesn’t mean the idea behind Java was wrong. It means the deployment model was wrong for the web.

Flash, later owned by Adobe, became more successful in the browser for animations, games, video, advertising, and rich interactive experiences. It had its own authoring tools, a design culture, a timeline-based workflow, and a lower barrier of entry for many designers and creative professionals. But Flash had the same structural weakness: it was also a plugin. It wasn’t the web itself.

The web eventually chose another path. HTML5, CSS3, faster JavaScript engines, SVG, Canvas, native audio and video, WebGL, and later WebAssembly allowed browsers to absorb many of the roles previously delegated to external plugins. Adobe officially ended support for Flash Player on December 31, 2020, and blocked Flash content from running in Flash Player beginning January 12, 2021. OpenJDK’s JEP 504 later removed the Applet API, describing it as obsolete because neither recent JDK releases nor current web browsers support applets.

That wasn’t a defeat of Java as a language. It was the end of a particular client-side deployment strategy.

The Browser Moved On — and That Was Correct

Modern browsers no longer need Java applets or Flash to deliver rich user experiences. CSS can handle many interface animations directly. SVG can represent scalable vector graphics. Canvas can draw dynamic scenes. WebGL and WebGPU can expose hardware-accelerated graphics. JavaScript can coordinate complex user interfaces through browser-native APIs.

This is a better model for the web. A web page should not require an external plugin to show a chart, play a video, animate a menu, or run a small application. Those capabilities belong in the browser platform itself.

But the fact that Java disappeared from the client side of the browser doesn’t imply that Java lost its relevance. It means that Java’s future was elsewhere: servers, tools, enterprise systems, Android-related ecosystems, backend platforms, and cross-platform development models that don’t require end users to install Java manually.

That distinction is crucial. When a Java application runs on a server, users don’t receive Java bytecode in their browsers. They receive HTML, CSS, JavaScript, JSON, images, fonts, video, and other web resources produced by the server. Java remains invisible to the user. It is an implementation technology, not a browser dependency.

The same principle becomes even more interesting in client application development: Java can be the language of the developer without becoming the runtime burden of the user.

The Original Promise Was Still Noble

Java’s original promise was radical: write software once and run it on multiple operating systems. This threatened the traditional dependency between applications and the operating system. If developers could target a cross-platform runtime instead of a single vendor’s platform, the operating system would lose some of its power as a gatekeeper.

This is why Java wasn’t only a technical project. It was also strategically important. In the United States antitrust case against Microsoft, the Department of Justice described Java and Netscape as middleware threats to the Windows monopoly because they could provide alternative platforms for application development. Sun Microsystems’ legal conflict with Microsoft over Java compatibility was part of the same historical tension: a cross-platform Java ecosystem could weaken the gravitational pull of Windows-only software.

Whatever one thinks of the companies involved, the technical ideal remains compelling: developers should not be forced to rewrite the same application separately for every operating system, and users should not be locked into one platform merely because the applications they need exist only there.

That’s the noble side of Java. Not corporate nostalgia. Not plugin nostalgia. Not applet nostalgia. The deeper ideal is practical freedom from platform lock-in.

Where the Old Model Failed

The old Java client model often confused two different goals:

• portability for the developer, meaning a single codebase that can run across platforms;
• uniform runtime installation for the user, meaning that the user must have Java installed before the application can run.

The first goal is excellent. The second is where many real-world problems appeared.

For developers, a common runtime was attractive. For users, however, it could become friction: install Java, update Java, worry about security warnings, handle plugin or runtime compatibility, and distinguish between the application and the environment required to launch it. On the desktop, this made many Java applications feel less native than platform-specific alternatives. In the browser, the plugin model eventually became unacceptable.

The lesson is not that Java should abandon its cross-platform ambition. The lesson is that the ambition must be implemented differently.

The user should not have to care that the developer used Java.

The Better Model: Java for the Developer, Native for the User

The better model is this: let the developer write in Java or Kotlin, let the framework abstract the common application layer, and let the build system produce the appropriate output for each target platform.

That changes the meaning of “write once, run anywhere”. It doesn’t mean “ship a generic runtime and hope the user has it” anymore. It means “write one application and generate something that each platform can actually accept as natural”.

On iOS, that means an iOS app. On Android, an Android app. On macOS, a native Mac application. On Windows, a native Windows executable. On the web, a web-compatible target. The developer’s source language and the user’s delivery format no longer have to be the same thing.

This is where Codename One becomes important.

Source Code Recovery Is Not the Same Problem Anymore

There’s also another historical objection to Java that deserves a brief mention. In the early 2000s, during a job interview, I was asked which programming languages I worked with. I answered, first of all, Java. The person interviewing me wasn’t pleased. The objection was roughly this: “We deliver compiled software to our clients, not software from which the source code can be easily recovered”.

At the time, that objection wasn’t entirely irrational. Java bytecode is much easier to decompile than a traditional native binary. If a Java application is distributed carelessly, especially with debug information or without serious obfuscation, recovering human-readable source-like code can be surprisingly easy. I saw this myself years ago, in a legal professional context, when I was asked to recover the source code of a corporate Java application. The task was much simpler than many people would expect.

This isn’t an argument against free software, open-source software, or public-domain software. On the contrary, I personally believe that software released under free licenses, or even into the public domain, often has better long-term prospects than closed-source software. But it would be naive to deny that many companies and independent developers still build part of their business model around keeping their implementation private.

I discussed this issue years ago in a more technical article about reverse engineering Codename One applications. Some details have naturally aged, because the framework has evolved, but the general point remains useful: reverse engineering must be discussed per target platform, per build mode, and per transformation pipeline. A debug Android build, an obfuscated release build, an iOS build, and a web build don’t expose the developer’s original work in the same way.

Codename One changes the practical shape of this problem. The user doesn’t receive the original Java source code, and the final application isn’t simply a classic Java desktop program distributed as bytecode to be run by a local JVM. Depending on the target platform, the application goes through translation, optimization, native compilation, minification, or platform-specific build pipelines. Reverse engineering may still reveal strings, behaviours, protocols, resources, and parts of the generated code. It should never be treated as a substitute for proper security architecture. Sensitive logic and secrets should remain on the server whenever possible.

But recovering the developer’s original Java source code is a very different matter. In this sense, Codename One also answers an old business objection to Java: it lets developers work in Java without necessarily exposing the application in the old, easily decompilable form that many people still associate with Java distribution.

Codename One Reframes Java’s Promise

Codename One is an open-source, commercially supported cross-platform framework for building applications in Java or Kotlin. Its goal isn’t to revive applets or to force the old Java desktop model back into relevance. Its goal is to let developers build applications from a single codebase while targeting iOS, Android, desktop, and web environments.

In practical terms, a Codename One developer works with Java or Kotlin, Maven, a simulator, cross-platform UI components, CSS styling, build tools, and native integration points. The end user doesn’t install Java to use the application. The Java code is a development asset, not a user-facing dependency.

For readers who want a practical introduction, I wrote a Baeldung tutorial on cross-platform Java development with Codename One. That article focuses on hands-on development: project structure, Maven workflow, simulator usage, layouts, styling, persistence, REST integration, and the general mechanics of building a realistic application.

This article has a different purpose. It’s not a tutorial. It is an attempt to explain why Codename One matters historically: it offers a modern answer to a problem Java has carried since the beginning.

Why the Recent Codename One Updates Matter

The recent Codename One updates are especially significant because they move the framework closer to the most defensible interpretation of Java’s original promise: write in Java or Kotlin, but deliver native applications without making the user install a JVM.

The new native Windows port is a major example. Codename One describes it as a standalone Win32 executable generated through ParparVM, Direct2D, and DirectWrite: no JVM, no bundled runtime, and support for x64 and arm64 from one build. This is exactly the kind of result developers wanted in the late 1990s when they kept asking how to compile Java programs to an EXE.

The native Mac application target points in the same direction. A Codename One project can now build a real macOS application through the iOS pipeline, with desktop integration such as a title bar, native menu bar, interactive scrollbars, and desktop notifications, while avoiding the old assumption that a desktop Java app must bundle or require a JVM.

The same wave of updates also introduced a portable 3D graphics API and a gaming API with Box2D physics, alongside cross-platform printing and Apple Wallet support. This matters because cross-platform development shouldn’t be reduced to forms, buttons, and standard business interfaces. If Java or Kotlin can also express richer visual and interactive applications from a shared codebase, the original idea of platform independence becomes much broader.

These updates matter because they attack the old psychological problem directly. Many users and even many developers still hear “Java desktop app” and imagine Swing, AWT, JavaFX, a heavy runtime, and a non-native feel. Codename One is trying to make that association obsolete.

Just as important, Codename One isn’t limiting itself to UI portability. Recent work has brought WebSockets, GraphQL, and gRPC into the core, while the build-time code generation pipeline now includes an OpenAPI client generator, SQLite ORM, JSON and XML mappers, component binding, SVG and Lottie processing, and declarative routing. That’s not merely a way to draw buttons on many screens. It is the outline of a full application platform.

Not Nostalgia, but Continuity

It would be a mistake to present Codename One as a return to the past. The past is not coming back. Applets are gone. Flash is gone. Browser plugins are gone. The web rightly moved toward native browser standards. Users don’t want to install runtimes just to open a page or launch a small utility.

Codename One is interesting precisely because it doesn’t ask us to return to that model.

It keeps what’s valuable in Java: a mature language ecosystem, static typing, a huge developer base, a strong tooling culture, long-term maintainability, and the ideal of cross-platform development. At the same time, it avoids the most damaging part of the old client-side Java experience: exposing the runtime problem to the end user.

In that sense, Codename One isn’t a nostalgic defense of Java. It is a continuation of Java’s best idea through a more appropriate technical architecture.

The Social Value of Cross-Platform Development

There is also a social dimension here that is easy to underestimate.

When every platform requires its own codebase, software development becomes more expensive, more fragmented, and more dependent on large teams. Independent developers, small companies, educators, associations, public-interest projects, and local initiatives often cannot afford separate native teams for iOS, Android, Windows, macOS, and web.

A good cross-platform framework doesn’t merely save time. It can change who is able to build software at all.

Of course, no framework abolishes the power of platform owners. Apple, Google, Microsoft, browser vendors, app stores, SDK policies, signing requirements, and distribution channels still matter. Codename One doesn’t magically remove those constraints.

But it can reduce duplication. It can lower the cost of supporting multiple platforms. It can let a small team produce software that would otherwise require several specialized teams. It can let a Java developer participate in mobile and desktop application development without abandoning years of experience.

That’s why I see Codename One not only as a technical tool, but as a practical form of developer freedom.

What Java Becomes in This Model

In this model, Java is no longer something the user must install. It’s no longer a browser plugin. It’s no longer an applet box inside a page. It’s no longer a visible runtime requirement.

Java becomes a source language, a design environment, an ecosystem, and a way to express application logic that can be transformed into platform-appropriate outputs. The user receives the application. The developer keeps the productivity, structure, and portability of Java.

This distinction is essential. The failure of Java applets did not invalidate Java’s ambition. It invalidated a particular delivery model. Codename One’s strength is that it separates the ambition from that failed delivery model.

Conclusion: Java’s Promise, Reinterpreted

Java was supposed to free us from the operating system. For many years, that promise was compromised by plugins, runtimes, corporate battles, desktop friction, and the limitations of the early web.

But the promise itself wasn’t wrong.

We still need ways to write software without surrendering completely to each platform’s separate technology stack. We still need tools that let developers reuse knowledge, code, architecture, and effort. We still need cross-platform development that doesn’t punish users with awkward installation requirements or non-native experiences.

Codename One is one of the most interesting attempts to make that promise concrete again. Not by putting Java back into the browser. Not by reviving applets. Not by asking users to care about the JVM.

Instead, Codename One points toward a better formulation:

Java for the developer. Native applications for the user. One codebase across platforms.

That isn’t merely a technical convenience. It is the modern version of Java’s original ideal.

(June 18, 2026)

Mia traduzione di To Gen or Not To Gen: The Ethical Use of Generative AI, pubblicato da Johannes Link.

Questo post è nato come traduzione di un articolo che il mio collega Jakob e io abbiamo scritto per una rivista tedesca. In seguito abbiamo aggiunto altro materiale e lo abbiamo arricchito con ulteriori riferimenti e fonti. Il nostro obiettivo è offrire una panoramica di molti, anche se non tutti, gli aspetti che abbiamo imparato sulla GenAI e che consideriamo rilevanti per formarsi un'opinione etica informata. Quanto alla profondità dell'informazione, ci limitiamo a scalfire la superficie; speriamo che la grande quantità di riferimenti possa aiutarti ad approfondire dove vorrai. Poiché siamo entrambi sviluppatori software, il nostro punto di vista è parziale e distorto. Tieni anche presente che qualsiasi testo su un tema “caldo” come questo non è altro che una fotografia di ciò che pensiamo di sapere oggi. Quando lo leggerai, la conoscenza e le opinioni degli autori saranno già cambiate.

Ultimo aggiornamento: 17 gennaio 2026.

Indice

• Sintesi
• Chi siamo
  • Johannes Link
  • Jakob Schnell
• Introduzione
  • Etica: che cosa significa davvero?
  • Chiarimento dei termini
• Fondamenti
  • Gli LLM possono pensare?
  • In che cosa gli LLM sono efficaci
  • La GenAI come fonte di conoscenza
  • La GenAI nello sviluppo software
  • Benefici reali e benefici promessi
• Aspetti dannosi della GenAI
  • La GenAI è un disastro ecologico
    • Energia
    • Acqua
    • Rifiuti elettronici
  • La GenAI minaccia istruzione e scienza
  • La GenAI sta distruggendo l'internet libero.
  • La GenAI è un pericolo per la democrazia
  • GenAI contro creatività umana
  • Colonialismo digitale
  • Aspetti politici
• Conclusione
  • Può esistere una GenAI etica?
  • Come agire in modo etico

Sintesi

ChatGPT, Gemini, Copilot. Il numero di applicazioni e modelli di IA generativa (GenAI) cresce ogni giorno. Nel campo dello sviluppo software in particolare, generazione di codice, assistenti alla programmazione e vibe coding sono sulla bocca di tutti. Come ogni tecnologia, la GenAI ha due facce. Alle grandi promesse fanno da contrappeso numerosi svantaggi: un immenso consumo di energia, montagne di rifiuti elettronici, la proliferazione della disinformazione su internet e la gestione discutibile della proprietà intellettuale sono solo alcuni dei molti aspetti negativi. Un comportamento eticamente responsabile richiede di guardare a tutti i vantaggi, gli svantaggi e i danni collaterali di una tecnologia prima di usarla o raccomandarne l'uso ad altri.

In questo articolo esaminiamo entrambe le facce e arriviamo infine alla nostra risposta personale e naturalmente soggettiva alla domanda se e come la GenAI possa essere usata in modo etico.

Chi siamo

Johannes Link

... programma da oltre 40 anni, 30 dei quali professionalmente. Dalla fine del secolo scorso, l'extreme programming e altri approcci allo sviluppo software centrati sulle persone sono al centro del suo lavoro. La realizzazione sensata ed etica della sua vita privata e professionale è da anni la sua forza motrice. Si occupa di GenAI fin dai primi giorni dei modelli linguistici GPT di OpenAI. Maggiori informazioni su Johannes si trovano su https://johanneslink.net.

Jakob Schnell

... ha studiato matematica e informatica e lavora come sviluppatore software da 5 anni. Lavora come docente e responsabile di corsi in contesti universitari ed extra-universitari. Come educatore giovanile, entra regolarmente in contatto anche con la vita di bambini e adolescenti. In tutti questi ambienti osserva l'uso crescente della GenAI e il suo impatto sulle persone.

Introduzione

Etica: che cosa significa davvero?

Comportamento etico suona come il titolo di un noioso seminario universitario. Tuttavia, se si guarda la voce di Wikipedia sul termine ¹, si scopre che ‘il modo in cui gli individui si comportano quando si trovano di fronte a dilemmi etici’ è al centro della definizione. Si tratta quindi di noi esseri umani che ci assumiamo responsabilità e valutiamo se e come fare o non fare certe cose sulla base dei nostri valori.

Dobbiamo porci domande etiche nel nostro lavoro perché tutte le tecnologie che usiamo e promuoviamo hanno un impatto su di noi e sugli altri. Perciò non sono né neutrali né prive di alternative. Si tratta di soppesare vantaggi e potenziale rispetto a danni e rischi; e questo vale per tutti, non solo per noi personalmente. Perché spesso chi beneficia di uno sviluppo è diverso da chi ne subisce le conseguenze.

Come individui e come società, abbiamo il diritto di decidere se e come vogliamo usare le tecnologie. Idealmente, dovremmo farlo in modo da portare beneficio a tutti; ma in nessun caso in modo da favorire un piccolo gruppo danneggiando la maggioranza.

Il punto cruciale è che il comportamento etico non è gratuito. L'etica non è efficiente e non aumenta il tuo profitto economico. Questo significa che, agendo secondo i tuoi valori, prima o poi dovrai rinunciare a qualcosa. Se non sei disposto a farlo, non hai valori: hai solo opinioni.

Chiarimento dei termini

Quando scriviamo ‘IA generativa’ (GenAI), ci riferiamo a un sottoinsieme molto specifico delle molte tecniche e dei molti approcci che rientrano nel termine ‘intelligenza artificiale’. A rigore, si tratta di una varietà di approcci molto diversi che vanno dalla logica simbolica, passano per la pianificazione automatica e arrivano al vasto campo del machine learning (ML). Oggi la maggior parte degli sforzi, dell'entusiasmo e del denaro confluisce nel deep learning (DL): un sottocampo del ML che usa reti neurali artificiali multistrato per scoprire correlazioni statistiche (cioè pattern) basate su enormi quantità di dati di addestramento, così da riprodurre in seguito quei pattern.

I large language model (LLM) e i metodi correlati per generare immagini, video e parlato rendono ora possibile applicare questa idea a dati completamente non strutturati. Mentre i metodi tradizionali di ML spesso se la cavavano con poche decine di parametri, questi modelli lavorano ormai con diversi trilioni (10^12) di parametri. Per ottenere i risultati desiderati, sia la quantità di dati di addestramento sia la durata dell'addestramento devono aumentare di parecchi ordini di grandezza.

Questo ci porta alla definizione di ciò che intendiamo con ‘GenAI’ in questo articolo: modelli iperscalati che possono essere sviluppati, addestrati e distribuiti solo da una manciata di aziende al mondo. Si tratta principalmente dei servizi GenAI forniti da OpenAI, Anthropic, Google e Microsoft, o basati su questi servizi. Ci concentriamo inoltre soprattutto sui modelli linguistici; la generazione di immagini, video, parlato e musica ha solo un ruolo marginale in questo articolo.

La nostra attenzione ai servizi iperscalati non significa che altri metodi di ML siano privi di problemi etici; tuttavia qui abbiamo a che fare con un ordine di grandezza completamente diverso di danni e rischi. Per esempio, esistono varianti di GenAI che usano tecniche uguali o simili, ma su scala molto più piccola e in domini circoscritti (per esempio AlphaFold ²). Questi approcci tendono a portare più valore con meno svantaggi.

Fondamenti

I modelli GenAI sono progettati per interpolare ed estrapolare ³, cioè per colmare i vuoti tra i dati di addestramento e speculare oltre i limiti di quei dati. Insieme alla natura stocastica dei dati di addestramento, questo produce alcune proprietà interessanti:

• I modelli GenAI ‘inventano’ risposte; con gli LLM ci piace chiamarle ‘allucinazioni’.
• I modelli GenAI non sanno che cosa è vero o falso, buono o cattivo, efficiente o efficace, ma solo che cosa è statisticamente probabile o improbabile in relazione ai dati di addestramento, al contesto e alla richiesta (cioè al prompt).
• I modelli GenAI non possono spiegare il proprio output; non hanno capacità di introspezione. Ciò che viene venduto come introspezione è solo altro output, con l'output precedente reimmesso nel sistema.
• I modelli GenAI non imparano da te; attingono solo al loro materiale di addestramento. L'esperienza di apprendimento è simulata reinserendo l'input precedente nel contesto di una conversazione ⁴.
• Il contesto, cioè l'insieme dei parametri di input forniti, è decisivo per l'accuratezza del risultato generato, ma può anche orientare il modello nella direzione sbagliata. Aumentare la finestra di contesto rende una richiesta molto più onerosa dal punto di vista computazionale, probabilmente in modo quadratico. Perciò l'aumento promesso della “finestra di contesto massima” di molti modelli è per lo più fittizio ⁵.
• L'affidabilità degli LLM non può essere aumentata in modo fondamentale semplicemente scalando ancora di più ⁶.

Gli LLM possono pensare?

I sostenitori dell'ipotesi del linguaggio del pensiero ⁷ ritengono possibile che modelli basati esclusivamente sul linguaggio acquisiscano le capacità del cervello umano: ragionamento, modellazione, astrazione e molto altro. Alcuni entusiasti sostengono persino che i modelli odierni abbiano già acquisito questa capacità. Tuttavia, studi recenti ^{8 9} mostrano che i modelli attuali non sono capaci di vero ragionamento né costruiscono modelli interni del mondo. Inoltre, “... secondo le neuroscienze attuali, il pensiero umano è in larga misura indipendente dal linguaggio umano ¹⁰” e vi è un dubbio scientifico fondamentale sul fatto che la cognizione umana possa essere raggiunta in pratica tramite il calcolo, men che meno scalando l'addestramento di reti profonde ¹¹.

Un esempio di mancanza di comprensione del mondo è il prompt ‘Dammi un numero casuale tra 0 e 50’. La risposta tipica della GenAI è ‘27’, ed è molto più affidabile di quanto consentirebbe la vera casualità. (Se non ci credi, prova!) Questo accade perché 27 è la risposta più probabile nei dati di addestramento della GenAI, non perché il modello capisca che cosa significa ‘casuale’.

Gli approcci ‘Chain of Thought (CoT)’ e i ‘modelli di ragionamento’ tentano di migliorare il ragionamento scomponendo un prompt, cioè la richiesta al modello, in singoli passaggi (logici) e delegando poi questi passaggi allo stesso LLM. Questo consente di soddisfare alcuni noti benchmark di ragionamento, ma moltiplica anche lo sforzo computazionale necessario di un fattore compreso tra 30 e 700 ¹². Inoltre, il ragionamento a più passaggi lascia che i singoli errori si concatenino fino a produrre errori grandi. Eppure i modelli CoT non sembrano possedere reali capacità di ragionamento ^{13 14} e migliorano l'accuratezza complessiva degli LLM solo marginalmente ¹⁵.

Il seguente esperimento mentale tratto da ¹⁶ sottolinea la mancanza di vere capacità di “pensiero”: gli LLM hanno accesso simultaneo a una quantità di conoscenza significativamente superiore a quella degli esseri umani. Insieme alla presunta capacità degli LLM di pensare logicamente e trarre conclusioni, nuove intuizioni dovrebbero cadere dal cielo. Ma non accade. Per ottenere nuove intuizioni dagli LLM, queste dovrebbero essere già codificate nel materiale di addestramento esistente e poi decodificate ed estratte con mezzi puramente statistici.

In che cosa gli LLM sono efficaci

Indubbiamente, gli LLM rappresentano un grande progresso qualitativo quando si tratta di estrarre informazioni da testi, generare testi in linguaggi naturali e artificiali e tradurre automaticamente. Ma anche qui il tasso di errore, e soprattutto il tipo di errore (‘allucinazioni’), è così alto che l'uso autonomo e non supervisionato in applicazioni serie deve essere considerato gravemente negligente.

La GenAI come fonte di conoscenza

Come abbiamo sottolineato sopra, gli LLM non sanno distinguere tra vero e falso, indipendentemente dal materiale di addestramento. Non rispondono alla domanda “Che cos'è XYZ?”, ma alla domanda “Come sarebbe una risposta alla domanda ‘Che cos'è XYZ?’?”. Tuttavia, molte persone sostengono che le risposte fornite da ChatGPT e simili alle tipiche domande che cosa-come-quando-chi siano abbastanza buone e spesso migliori di quelle che avrebbe dato una “normale” ricerca web. Probabilmente questo è oggi il caso d'uso più diffuso per i bot di “IA”. Il problema è che, nella maggior parte dei casi, non verremo mai a sapere delle inesattezze, delle omissioni, delle distorsioni e dei pregiudizi contenuti nella risposta, a meno di ricontrollare tutto, il che vanifica l'intero scopo di accelerare il recupero della conoscenza. Meno ne sappiamo già, migliore ci sembra la risposta dell'“IA”, ma meno siamo attrezzati per individuarne i problemi. Un recente studio della BBC e di 22 organizzazioni di media di servizio pubblico mostra che il 45% di tutte le risposte degli assistenti di “IA” a domande su notizie e attualità contiene errori significativi ¹⁷.

Inoltre, gli LLM sono facili prede della manipolazione, da parte dell'organizzazione che fornisce il servizio o di terzi. Un altro studio sostiene che persino modelli con miliardi di parametri possono essere “avvelenati” iniettando appena pochi documenti corrotti ¹⁸. Quindi, se c'è qualcosa in gioco, tutto l'output degli LLM deve essere validato con attenzione. Farlo, però, contraddirebbe l'intero motivo per cui si usa l'“IA” per accelerare l'acquisizione di conoscenza.

La GenAI nello sviluppo software

La creazione e la modifica di programmi informatici sono considerate un dominio privilegiato per l'uso degli LLM. Ciò dipende in parte dal fatto che i linguaggi di programmazione hanno meno variabilità e ambiguità linguistiche dei linguaggi naturali. Inoltre, esistono molti metodi per controllare automaticamente il codice sorgente generato, come la compilazione, l'analisi statica del codice e i test automatizzati. Questo semplifica la validazione del codice generato e dà quindi un'ulteriore sensazione di fiducia.

Tuttavia, i resoconti individuali sul successo di assistenti alla programmazione come Copilot, Cursor, ecc. variano molto. Vanno da ‘mi sostituisce completamente come sviluppatore’ a ‘ostacola in modo significativo il mio lavoro’. Alcuni sostengono che gli agenti di coding riducano notevolmente il tempo da investire nel lavoro di “boilerplate”, come scrivere test, creare oggetti di trasferimento dati o collegare il codice di dominio a librerie esterne. Altri ribattono che delegare queste incombenze alla GenAI fa perdere occasioni per eliminarle, per esempio introducendo una nuova astrazione o automatizzando parti della pipeline, e per imparare le sottigliezze e le modalità di fallimento della libreria esterna.

A differenza della generazione di codice tradizionale o delle librerie di codice, sollecitare un agente di coding non è “solo un altro livello di astrazione”. Manca di diversi aspetti cruciali di un'astrazione utile:

1. Il suo output è non deterministico. Non puoi fare affidamento sul fatto che un agente produca lo stesso codice la volta successiva in cui gli dai lo stesso prompt.
2. L'agente non nasconde i dettagli implementativi, né ti consente di modificare in modo affidabile quei dettagli se l'implementazione precedente si rivela inadeguata. Il codice prodotto da un LLM, anche se generato “gratis”, deve essere considerato e mantenuto ogni volta che tocchi la logica o la funzionalità correlate.
3. L'agente non ti dice se la quantità di dettagli che dai nel prompt è sufficiente per individuare un'implementazione adeguata. Al contrario, l'LLM riempirà sempre i buchi della specifica con assunzioni derivate statisticamente.

Purtroppo, gli studi seri sui benefici reali della GenAI nello sviluppo software sono rari. Il trial randomizzato di Metr ¹⁹ offre una prima indicazione, misurando un calo della velocità di sviluppo per sviluppatori esperti. Uno studio informale di ThoughtWorks stima il potenziale aumento di produttività dall'uso della GenAI nello sviluppo software intorno al 5-15% ²⁰. Se l'“AI coding” aumentasse la produttività dei programmatori di una grande percentuale, vedremmo una crescita misurabile di nuovo software negli app store e nei repository OSS. Ma non la vediamo: i numeri sono piatti, nel migliore dei casi ²¹²².

Ma anche se ipotizziamo un aumento di produttività nel coding grazie alla GenAI, ci sono comunque due elementi che riducono ulteriormente questo presunto guadagno di efficienza. In primo luogo, i risultati della generazione devono ancora essere controllati da sviluppatori umani. È però noto che gli esseri umani sono pessimi controllori e perdono sia attenzione sia piacere nel processo. In secondo luogo, lo sviluppo software riguarda solo in piccola parte la scrittura e la modifica del codice. La parte più importante è scoprire soluzioni e imparare come usarle nel loro contesto. Peter Naur chiama tutto questo ‘programming as theory building’ ²³. Anche l'assistente di coding perfetto può quindi occuparsi solo della parte di codifica dello sviluppo software. Per il resto essenziale abbiamo ancora bisogno degli esseri umani.

Se poi consideriamo anche che l'uso dell'IA può portare relativamente in fretta alla perdita di capacità di problem solving ²⁴ o al fatto che tali capacità non vengano acquisite affatto, il beneficio complessivo dell'uso della GenAI nello sviluppo software professionale diventa più che discutibile.

Finché la programmazione, e ogni tecnicismo che la accompagna, non sarà completamente sostituita da qualche forma di IA, avremo ancora bisogno di sviluppatori esperti capaci di programmare, mantenere e debuggare il codice fin nel minimo dettaglio. Da dove, ci chiediamo, arriveranno questi sviluppatori senior quando le aziende sostituiranno il personale junior con agenti di coding?

Benefici reali e benefici promessi

Se leggi testimonianze sull'uso della GenAI percepito come riuscito, incontrerai soprattutto scenari in cui l'“IA” aiuta a rendere più veloci o più piacevoli compiti percepiti come noiosi, inutilmente dispendiosi in termini di tempo o addirittura privi di senso. Si tratta quindi principalmente di comodità personale ed efficienza percepita. Anche l'intrattenimento ha un ruolo importante: la poesia per il compleanno della nonna, la canzone divertente per l'anniversario aziendale o l'immagine umoristica per la presentazione vengono generate rapidamente e apparentemente a basso costo dall'“IA”.

Tuttavia, le promesse fatte dalle aziende dominanti della GenAI sono molto diverse: risolvere la crisi climatica, fornire i migliori consigli medici a tutti, rivoluzionare la scienza, ‘democratizzare’ l'istruzione e molto altro. GPT5, per esempio, viene presentato da Sam Altman, CEO di OpenAI, così: ‘Con GPT-5, ora è come parlare con un esperto: un vero esperto di livello PhD in qualunque area ti serva [...] possono aiutarti in qualunque obiettivo tu abbia.’ ²⁵

Tuttavia, finora non esiste ancora alcun caso d'uso concreto che offra un reale beneficio qualitativo per l'umanità o almeno per gruppi più ampi. La domanda ‘Quale problema significativo (per noi come società) risolve la GenAI?’ resta senza risposta. Al contrario: sebbene i metodi di machine learning e deep learning abbiano certamente applicazioni utili, l'area di applicazione più redditizia per l'“IA” al momento è la scoperta e lo sviluppo di nuovi giacimenti di petrolio e gas ²⁶.

Aspetti dannosi della GenAI

Ma a prescindere da come si valutino i benefici di questa tecnologia, dobbiamo considerare anche gli svantaggi, perché solo così possiamo arrivare a una valutazione informata ed equa. In effetti, l'ampiezza degli effetti negativi dell'IA generativa iperscalata già osservabili è enorme. A ciò si aggiungono numerosi rischi con il potenziale di causare grandi danni sociali. Vediamo quelle che consideriamo le minacce maggiori:

La GenAI è un disastro ecologico

Energia

I data center necessari per addestrare e far funzionare grandi modelli generativi ²⁷ superano di gran lunga le dimensioni odierne sia per numero sia per grandezza. Si prevede che la domanda energetica dei data center negli Stati Uniti cresca dal 4,4% dell'elettricità totale nel 2023 al 22% nel 2028 ²⁸. Inoltre, il mix elettrico tipico dei data center è più intensivo in CO2 rispetto al mix medio. Si stima un aumento di circa l'11% dell'elettricità prodotta dal carbone negli Stati Uniti, oltre a emissioni di gas serra triplicate a livello mondiale entro il 2030 rispetto allo scenario senza tecnologia GenAI ²⁹.

Di recente Sam Altman di OpenAI ha pubblicato alcuni numeri sul consumo di energia e acqua di ChatGPT per “la query media” ³⁰. Da un lato, una media è poco significativa quando una distribuzione è fortemente asimmetrica; i numeri per query con contesti ampi o calcoli di “chain of reasoning” sarebbero superiori di ordini di grandezza. Così, i potenziali guadagni di efficienza derivanti da modelli linguistici più economici sono più che compensati dalla proliferazione dell'uso, per esempio tramite approcci CoT e ‘sistemi agentici’. Dall'altro lato, la comunicazione dei consumi energetici da parte delle big tech (per esempio Google ³¹) è intenzionalmente selettiva. Ketan Joshi spiega in dettaglio perché gli esperti pensano che l'industria dell'IA stia nascondendo il quadro completo ³².

Poiché costruire nuove centrali elettriche, anche a carbone o gas, richiede molto tempo, le aziende dei data center stanno persino rimettendo in funzione vecchi motori a reazione per alimentare i loro nuovi hyperscaler ³³. Bisogna essere consapevoli che quei motori non sono soltanto molto più rumorosi di altre centrali, ma emettono anche ossido di azoto, una delle principali sostanze responsabili delle piogge acide ³⁴.

Acqua

Un altro problema è l'immenso consumo d'acqua di questi data center ³⁵. Dopotutto, il raffreddamento richiede acqua pulita di qualità potabile per non contaminare o ostruire tubi e pompe di raffreddamento. Già oggi, le nuove sedi dei data center competono con il consumo umano di acqua potabile. Secondo Bloomberg News, circa due terzi dei data center costruiti o sviluppati nel 2022 si trovano in aree già soggette a “stress idrico” ³⁶. Solo negli Stati Uniti, “i server di IA [...] potrebbero generare un'impronta idrica annua compresa tra 731 e 1.125 milioni di m3” ³⁷.

Non è però solo un problema americano. In altre aree del mondo, i data center assetati d'acqua competono anch'essi con la fornitura di acqua potabile per gli esseri umani ³⁸.

Rifiuti elettronici

Un altro problema ecologico viene aggravato in modo evidente dall'“IA”: la quantità di rifiuti elettronici (e-waste) che spediamo soprattutto nei paesi del “Terzo mondo” e che lì è responsabile della contaminazione del suolo. Addestrare e interrogare in modo efficiente reti neurali molto grandi richiede enormi quantità di chip specializzati (GPU). Questi chip devono spesso essere sostituiti e smaltiti entro due anni. Il tipico data center potrebbe non durare più di 3-5 anni prima di dover essere ricostruito in gran parte³⁹.

In sintesi, si può dire che la GenAI è almeno un acceleratore della catastrofe ecologica che minaccia la Terra. Ed è l'argomento che permette a Google, Amazon e Microsoft di abolire completamente i loro obiettivi di zero emissioni di CO2 ⁴⁰ e sostituirli con investimenti da diverse centinaia di miliardi di dollari in nuovi data center.

La GenAI minaccia istruzione e scienza

Le persone cercano spesso di usare la GenAI in ambiti in cui si sentono sovraccariche e sopraffatte: formazione, studio, assistenza infermieristica, cura psicoterapeutica, ecc. I campi di applicazione dell'“IA” sono quindi un buon indicatore di aree socialmente trascurate e sottofinanziate.

Il fatto che gli LLM siano molto bravi a trasmettere l'impressione di conoscenza e competenza autentiche rende il loro uso particolarmente attraente in questi ambiti. Un insegnante sottoposto alla pressione simultanea della preparazione delle lezioni, delle correzioni e della sostituzione di colleghi malati si rivolge a ChatGPT per creare rapidamente una scheda di esercizi. Uno studente sotto pressione per ottenere buoni voti fa correggere il proprio tema di inglese dall'“IA”. Il ricercatore sotto pressione per pubblicare ‘risparmierà’ tempo di ricerca leggendo il riassunto generato dall'IA di articoli rilevanti, anche se completamente sbagliati nel contenuto ⁴¹. Aziende tecnologiche come OpenAI e Microsoft fanno leva su questa situazione offrendo la loro ‘IA’ gratis o a basso costo a studenti e università. L'obiettivo è ovvio: studenti agganciati all'esternalizzazione di alcuni dei loro compiti “tediosi” a un servizio continueranno a usarlo, e alla fine a comprarlo, dopo la laurea.

A rimetterci sono le capacità di problem solving, il confronto con fonti complesse e la generazione di conoscenza attraverso la comprensione e l'integrazione della conoscenza esistente. Alcuni sostengono persino che l'IA stia distruggendo l'istruzione critica e l'apprendimento stesso ⁴²:

Gli studenti non stanno soltanto imparando meno; il loro cervello sta imparando a non imparare.

Il ciclo formativo di scuole e università è rapido. Gli insegnanti riferiscono già che alunni e studenti hanno acquisito negli ultimi anni competenze sensibilmente minori, ma sono invece diventati dipendenti da ‘strumenti’ inaffidabili ⁴³. Il vero problema dell'uso della GenAI per svolgere i compiti non è barare, ma il fatto che gli studenti “non stanno solo compromettendo la propria capacità di imparare, ma anche quella di guidare un giorno.” ⁴⁴

La GenAI sta distruggendo l'internet libero.

La lotta contro i bot su internet è vecchia quasi quanto internet stessa, e finora ha avuto discreto successo. Autenticazione multifattore, reCaptcha, honeypot e fingerprinting del browser sono solo alcuni degli strumenti che aiutano a proteggere dagli abusi automatizzati. Tuttavia, la GenAI porta questo problema a un nuovo livello, in due modi. Per rendere ‘internet’ utilizzabile come fonte principale per l'addestramento degli LLM, le aziende di IA usano i cosiddetti ‘crawler’. Questi si comportano essenzialmente come aggressori DDoS: inviano decine di migliaia di richieste simultaneamente, da diverse centinaia di IP in pochissimo tempo. I file robots.txt vengono ignorati; al contrario, IP di origine e user agent vengono offuscati ⁴⁵.

Queste pratiche comportano enormi svantaggi per chi produce contenuti autentici:

• Costi per banda aggiuntiva.
• Perdita di ricavi pubblicitari, poiché i motori di ricerca ora offrono riassunti generati dagli LLM invece di link alle fonti. Questo minaccia in particolare l'esistenza del giornalismo indipendente rimasto ⁴⁶.
• Uso improprio dei propri contenuti per concorrenza assistita dall'IA.

Se il luogo in cui la conoscenza viene generata è separato dal luogo in cui viene consumata, e se questo rende la prestazione della generazione ancora più opaca di prima, cala anche la motivazione a continuare a generare conoscenza. Per progetti come Wikipedia, questo significa meno donatori e meno contributori. Le comunità aperte spesso non hanno altra scelta che chiudersi.

Un altro aspetto è l'inondazione di internet con contenuti generati che non possono essere distinti automaticamente da contenuti non generati. Questi contenuti travolgono i manutentori di software open source o portali come Wikipedia ⁴⁷. Se poi questi contenuti vengono inseriti anche da esseri umani, spesso convinti di fare del bene, non è più possibile intervenire contro il metodo. A lungo termine, questo significa che materiale di addestramento sempre meno autentico porterà a risultati sempre più scadenti dei modelli.

Da ultimo, gli agenti autonomi rendono molto peggiore lo stato già disastroso della sicurezza su internet ⁴⁸. Pensa a consegnare tutti i tuoi dati personali e le tue credenziali a un robot che

• distribuisce e usa quei dati in giro per il web, ovunque e ogni volta che lo ritenga necessario per raggiungere un obiettivo.
• è controllato da LLM vulnerabili a ogni tipo di attacco di prompt injection ⁴⁹.
• è controllato da aziende che non hanno a cuore il tuo interesse e riferisce a loro.
• non ha consapevolezza né conoscenza delle implicazioni delle proprie azioni.
• agisce per tuo conto e quindi ti rende responsabile.

La GenAI è un pericolo per la democrazia

La manipolazione dell'opinione pubblica attraverso i social media precede l'arrivo degli LLM. Tuttavia, questa tecnologia dà ai manipolatori molta più leva. Inondando il web di fake news, video falsi e qualunque altra falsità, partiti antidemocratici (o semplicemente criminali) rendono sempre più difficile per media e giornalismo seri ottenere l'attenzione del pubblico.

Le persone non hanno più una base fattuale comune, necessaria per tutte le negoziazioni sociali. Se non si concorda almeno su alcuni fatti di base, discutere di politiche e misure da adottare è inutile. Senza negoziazioni, la democrazia morirà; in molte parti del mondo sta già morendo.

Ma l'IA mette ancora più pressione sulla democrazia. Hartzog e Silbey, due professori della School of Law della Boston University, spiegano come i sistemi di IA minino proprietà cruciali delle nostre istituzioni civiche ⁵⁰:

“Le istituzioni civiche sono la spina dorsale della vita democratica. [...] Il vero superpotere delle istituzioni è la loro capacità di evolvere e adattarsi entro una gerarchia di autorità e una cornice di ruoli e regole, mantenendo al tempo stesso legittimità nella conoscenza prodotta e nelle azioni intraprese. [...] I sistemi di IA sono costruiti per funzionare in modi che degradano e probabilmente distruggeranno le nostre istituzioni civiche fondamentali. Le affordance dei sistemi di IA hanno l'effetto di erodere la competenza, cortocircuitare il processo decisionale e isolare le persone le une dalle altre.”

Benvenuti in un mondo di azioni statali opache, arbitrarie e non negoziabili. Se sembra una distopia, probabilmente lo è.

GenAI contro creatività umana

Anche arte e creatività sono minacciate dall'IA generativa. L'impatto sui redditi degli artisti del fatto che loghi, immagini e illustrazioni siano ora creati facilmente e rapidamente con prompt di IA è evidente. Un effetto simile si può osservare anche in altri ambiti. Gli studi mostrano che le poesie scritte dagli LLM sono indistinguibili da quelle scritte dagli esseri umani e che i prodotti dell'IA generativa sono spesso valutati più favorevolmente ⁵¹. Questo si può spiegare con una tendenza verso il centro e la media, osservabile anche nelle scene musicale e cinematografica: per il suo funzionamento di base, la GenAI non può creare nulla di fondamentalmente nuovo, ma replica pattern familiari, ed è proprio per questo che viene accolta così bene dal pubblico.

Ironia della sorte, l'“IA” trae la propria ‘creatività’ dai contenuti di coloro che cerca di sostituire. Molti di questi contenuti sono stati usati come materiale di addestramento contro la volontà dei titolari dei diritti. Non è ancora stato deciso se questo costituisca una violazione del copyright; moralmente, la situazione sembra chiara. La comunità creativa è la prima a essere seriamente minacciata dalla GenAI nel proprio sostentamento ⁵².

Non è un caso che gran parte degli sforzi della GenAI sia rivolta a “democratizzare l'arte”. Questo inquadramento è completamente rovesciato. L'arte è da moltissimo tempo una delle attività più democratiche. Tutti possono farla; ma non tutti vogliono metterci impegno, tempo di pratica e anima. La vera arte non riguarda il prodotto ma il processo, che richiede esseri umani reali. Generare arte senza attrito significa eliminare gli esseri umani dal processo, continuando comunque a fare soldi.

Colonialismo digitale

L'enorme quantità di dati richiesta dagli approcci di IA iperscalata rende impossibile curare completamente i contenuti di apprendimento. E tuttavia si vorrebbe evitare la riproduzione di contenuti razzisti, disumani e criminali. Si tenta di tenere sotto controllo il problema adattando successivamente i modelli alle preferenze umane e alle leggi locali tramite ulteriore ‘reinforcement learning from human feedback (RLHF)’ ⁵³. La manodopera a basso costo per questo processo molto oneroso si trova nel Sud globale. Lì, persone esposte per ore a discorsi d'odio, abusi su minori, violenza domestica e altri scenari orribili in lavori mal pagati filtrano questi contenuti dal materiale di addestramento delle grandi aziende di IA ⁵⁴. Molte ne escono traumatizzate.

Tuttavia, nelle regioni meno sviluppate del mondo non vengono sfruttate solo le persone, ma anche la natura: l'avvelenamento del suolo con sostanze chimiche durante l'estrazione delle materie prime per i chip digitali, così come la contaminazione causata dai nostri rifiuti elettronici e dal loro smaltimento improprio, sono danni collaterali che accettiamo volentieri e le cui conseguenze a lungo termine sono attualmente estremamente difficili da valutare. Anche qui il mondo “sviluppato” trae profitto, mentre gli aspetti negativi vengono esternalizzati alle ex colonie e ad altre regioni povere del mondo.

Aspetti politici

Come sviluppatori software, vorremmo ‘lasciare fuori la politica’ e concentrarci interamente sulla tecnologia interessante. Tuttavia, questo è impossibile quando i sostenitori di questa tecnologia perseguono forti obiettivi politici e ideologici. Nel caso della GenAI, possiamo vedere chiaramente che le aziende statunitensi dietro di essa (OpenAI, Google, Meta, Microsoft, ecc.) non hanno problemi con l'attuale governo autoritario degli Stati Uniti, che alcuni definiscono fascista ⁵⁵. In concreto, questo significa tra l'altro che i modelli vengono esplicitamente manipolati per essere meno liberali o semplicemente per non generare alcun output che possa irritare il CEO o il presidente ⁵⁶.

Ancora più grave è il fatto che molte delle menti guida dietro queste aziende e i loro finanziatori aderiscono a convinzioni che possono essere descritte in senso ampio come fascismo digitale. Tra questi ci sono Peter Thiel, Marc Andreessen, Alex Karp, JD Vance, Elon Musk e molti altri nella “Authoritarian Stack” ⁵⁷. Le loro ideologie, mascherate da teorie razionali, si chiamano longtermism ed effective altruism. Ciò che hanno in comune è che considerano democrazia e Stato modelli obsoleti, la compassione qualcosa di ‘woke’, e gli attuali problemi dell'umanità insignificanti, perché il nostro futuro starebbe nella colonizzazione dello spazio e nella fusione degli esseri umani con una superintelligenza artificiale ⁵⁸. Vogliamo dare a persone che aderiscono a queste ideologie ancora più potere, denaro e influenza usando e pagando i loro prodotti? Vogliamo alimentare i loro sistemi informatici con i nostri dati? Vogliamo davvero esporre noi stessi e i nostri figli alle risposte di chatbot che loro hanno manipolato?

Non altrettanto astrusa, ma analogamente misantropica, è l'imminente sostituzione di molti lavori da parte dell'IA, così come postulata dalle stesse aziende per mettere pressione ai dipendenti con questa affermazione. Chiedi uno stipendio alto? Insisti sui tuoi diritti legali? Ti lamenti del carico di lavoro eccessivo? Hai dubbi sugli obiettivi dell'azienda? Allora ti sostituiremo semplicemente con un'IA economica e remissiva!

Comunque la si guardi, l'IA e la GenAI sono già usate politicamente. Se le seguiamo senza opporre resistenza, avalliamo questo approccio e lo sosteniamo con il nostro tempo, la nostra attenzione e il nostro denaro.

Conclusione

Idealmente vorremmo quantificare la nostra valutazione sommando i vantaggi, sommando gli svantaggi e infine verificando se il saldo sia positivo o negativo. Purtroppo, nel nostro caso specifico, né i benefici né i danni sono facilmente quantificabili; dobbiamo quindi consultare i nostri valori sociali e personali.

Le discussioni sulla GenAI ruotano di solito puramente intorno ai suoi benefici. Spesso le capacità di tutte le tecnologie di “IA” (per esempio il ripiegamento delle proteine con AlphaFold ²) vengono messe insieme, anche se hanno poco in comune con la GenAI iperscalata. Tuttavia, se consideriamo le conseguenze e non ignoriamo i problemi che questa tecnologia comporta, cioè se valutiamo entrambi i lati in termini etici, la valutazione cambia. Comodità, velocità e intrattenimento vengono allora pesati contro numerosi danni e rischi per l'ambiente, lo Stato e l'umanità. In questo senso, l'uso etico e l'ulteriore espansione della GenAI nella sua forma attuale non sono possibili.

Può esistere una GenAI etica?

Se l'uso della GenAI oggi non è etico, che cosa dovrebbe cambiare? Quali effetti negativi della GenAI dovrebbero scomparire, o almeno essere drasticamente ridotti, per far pendere il bilancio tra benefici e danni nella direzione opposta?

• I modelli dovrebbero essere addestrati esclusivamente con contenuti pubblicamente noti i cui creatori originali acconsentano all'uso per l'addestramento di modelli di IA.
• Il danno ambientale dovrebbe essere ridotto a tal punto da non alimentare ulteriormente la crisi climatica.
• La società dovrebbe avere pieno accesso all'addestramento e al funzionamento dei modelli, così da escludere la manipolazione da parte di terzi e limitarne l'uso a finalità benefiche. Questo richiederebbe processi democratici, una buona regolamentazione e supervisione da parte di giudici e tribunali.
• L'abuso e il danno ad altri, per esempio tramite furto di copyright o colonialismo digitale, dovrebbero essere impediti.

Un cambiamento simile è concepibile? Forse. È probabile, dati i gruppi d'interesse e gli aspetti politici coinvolti? Probabilmente no.

Come agire in modo etico

I sostenitori dell'IA generativa, spesso beneficiari diretti, vogliono convincerci che questa ‘tecnologia del futuro’ non abbia alternative e sia inevitabile ⁵⁹. Secondo loro dovremmo quindi integrare l'uso della GenAI nella nostra vita quotidiana il più rapidamente possibile e ottimizzare il modo in cui la usiamo. È un tentativo deliberato di spostare la narrazione. Via dalla domanda se vogliamo questo futuro, verso la necessità indiscutibile di adattarci il più rapidamente possibile. Dall'autodeterminazione alla subordinazione. Eppure, come con quasi ogni tecnologia, esistono alternative al suo uso. Noi esseri umani abbiamo il diritto di decidere se e come usare la tecnologia, soppesando tutti i diversi fattori.

I luddisti del XIX secolo avevano un problema simile. Erano esperti del loro settore (il lavoro tessile) che si opponevano all'uso di certi tipi di macchine automatizzate per preoccupazioni relative alla paga dei lavoratori e alla qualità della produzione. Possiamo imparare da loro in senso letterale, come scrive C.C. Radsch ⁶⁰:

... rifiutare di accettare che l'implementazione di nuove tecnologie [...] sia dettata unilateralmente dalle aziende o in combutta con il governo, soprattutto quando mina la capacità dei lavoratori di guadagnarsi da vivere, la coesione sociale, i beni pubblici e le istituzioni democratiche.

[...] Essere luddisti oggi significa rifiutare il fatalismo della tecno-inevitabilità e pretendere che la tecnologia serva i molti, non solo i pochi. Significa affermare che le questioni di lavoro, agency e giustizia devono venire prima di velocità, efficienza e scala.

Per noi personalmente, questo significa che non usiamo più l'IA generativa, né per scopi privati né professionali. Purtroppo, la crescente penetrazione della GenAI in molti servizi rende tutto questo sempre più difficile. Fiona lo esprime così ⁶¹:

Personalmente non toccherei gli LLM nemmeno con un bastone. Non li lascio avvicinare al mio cervello. [...]

Ma penso sia importante riconoscere che siamo in una situazione privilegiata per poterlo fare. Le persone sono costrette a usare questi sistemi: da pattern di interfaccia, aspettative dei capi, inquinamento della conoscenza che rende sempre più difficile imparare le cose, o semplicemente pressione sociale.

Ma significa anche che alziamo costantemente la voce contro la normalizzazione dell'uso di questa tecnologia non etica; in pubblico, ma anche in privato e nei rapporti con famiglia, amici, colleghi, studenti o partner commerciali. Questo ci rende, di tanto in tanto, scomodi per gli altri e comporta conseguenze personali. Ne vale la pena? Ne siamo fermamente convinti. Ogni query non inviata a un LLM riduce la quota di mercato della GenAI. Ogni voce contraria influenza l'opinione pubblica. E ogni lavoro riuscito senza contributi dell'“IA” mostra che la tecnologia non è senza alternative.

Forse noi programmatori non-IA siamo i cocchieri del XXI secolo. Francamente non ci importa. L'umanità avrebbe potuto e dovuto saltare l'era del traffico individuale basato sulla combustione passando direttamente a piccoli veicoli elettrici. Forse quindi non siamo i cocchieri, ma i ciclisti che preparano la strada per il modo etico di sviluppare software di prossima generazione.

1. Voce di Wikipedia “Behavioral Ethics”.
   https://en.wikipedia.org/wiki/Behavioral_ethics

2. Voce di Wikipedia “AlphaFold”.
   https://en.wikipedia.org/wiki/AlphaFold

3. Gary Marcus sostiene che gli LLM siano piuttosto bravi a interpolare, cioè a colmare pochi punti mancanti, ma pessimi a estrapolare, cioè a trovare o derivare nuova conoscenza.
   https://cacm.acm.org/opinion/not-on-the-best-path/

4. Mark Levison, 10/25, “GenAI vs Human Intelligence - a Reality Check”.
   https://agilepainrelief.com/blog/gen-ai-vs-human-intelligence-a-reality-check/

5. “Tutti i modelli sono rimasti molto al di sotto della loro finestra di contesto massima, fino al 99 percento”.
   Norman Paulsen, 9/25, “Context Is What You Need: The Maximum Effective Context Window for Real World Limits of LLMs”.
   https://arxiv.org/abs/2509.21361

6. P.V. Coveney, S. Succi. “The wall confronting large language models”.
   https://arxiv.org/html/2507.19703v1

7. Voce di Wikipedia “Language of Thought Hypothesis”.
   https://en.wikipedia.org/wiki/Language_of_thought_hypothesis

8. Shojaee, Mirzadeh, Alizadeh et al., Apple Research, “The Illusion of Thinking”.
   https://ml-site.cdn-apple.com/papers/the-illusion-of-thinking.pdf

9. Gary Marcus, “Generative AI’s crippling and widespread failure to induce robust models of the world”.
   https://garymarcus.substack.com/p/generative-ais-crippling-and-widespread

10. Benjamin Riley, The Verge, 11/25, “Large language mistake”.
    https://www.theverge.com/ai-artificial-intelligence/827820/large-language-models-ai-intelligence-neuroscience-problems

11. Iris van Rooij et al., Computational Brain & Behavior, 9/25. “Reclaiming AI as a Theoretical Tool for Cognitive Science”.
    https://link.springer.com/article/10.1007/s42113-024-00217-5

12. Hugging Face’s AI Energy Score v2, 12/25, “AI Energy Score v2: Refreshed Leaderboard, now with Reasoning”.
    https://huggingface.co/blog/sasha/ai-energy-score-v2

13. Ars Technica, “LLMs’ simulated reasoning abilities”.
    https://arstechnica.com/ai/2025/08/researchers-find-llms-are-bad-at-logical-inference-good-at-fluent-nonsense/

14. Chengshuai Zhao et al., (2025). “Is Chain-of-Thought Reasoning of LLMs a Mirage? A Data Distribution Lens”.
    https://arxiv.org/pdf/2508.01191

15. Lennart Meincke, Ethan Mollick, Lilach Mollick, Dan Shapiro; Wharton Generative AI Labs, 6/25, “The Decreasing Value of Chain of Thought in Prompting”.
    https://gail.wharton.upenn.edu/research-and-insights/tech-report-chain-of-thought/

16. Malwaretech, 08/25, “Every Reason Why I Hate AI and You Should Too”.
    https://malwaretech.com/2025/08/every-reason-why-i-hate-ai.html

17. BBC, 10/25, “News Integrity in AI Assistants - An international PSM study”.
    https://www.bbc.co.uk/mediacentre/documents/news-integrity-in-ai-assistants-report.pdf

18. Anthropic Research, 10/25, “A small number of samples can poison LLMs of any size”.
    https://www.anthropic.com/research/small-samples-poison

19. Joel Becker et. al, “Measuring the Impact of Early-2025 AI on Experienced Open-Source Developer Productivity”.
    https://metr.org/blog/2025-07-10-early-2025-ai-experienced-os-dev-study/

20. Sichu Zhang, Thoughtworks, “How much faster can coding assistants really make software delivery?”.
    https://www.thoughtworks.com/insights/blog/generative-ai/how-faster-coding-assistants-software-delivery

21. Mike Judge, 9/25, “Where’s the Shovelware? Why AI Coding Claims Don’t Add Up”.
    https://mikelovesrobots.substack.com/p/wheres-the-shovelware-why-ai-coding

22. Jason Gorman’s Blog, 12/25, “The Gorman Paradox: Where Are All The AI-Generated Apps?”.
    https://codemanship.wordpress.com/2025/12/14/the-gorman-paradox-where-are-all-the-ai-generated-apps/

23. Peter Naur, (1985). “Programming as theory building”. Microprocessing and Microprogramming, 15(5), 253-261.

24. Krzysztof Budzyń et. al, The Lancet, 8/2025. “Endoscopist deskilling risk after exposure to artificial intelligence in colonoscopy: a multicentre, observational study”.
    https://www.thelancet.com/journals/langas/article/PIIS2468-1253(25)00133-5/abstract

25. Gary Marcus, “GPT-5: Overdue, overhyped and underwhelming”.
    https://garymarcus.substack.com/p/gpt-5-overdue-overhyped-and-underwhelming

26. Heated, 07/25, “He helped Microsoft build AI to help the climate. Then Microsoft sold it to Big Oil.” https://heated.world/p/he-helped-microsoft-build-ai-to-help

27. Thomas Fricke, consumo di risorse dell'IA (tedesco).
    https://thomasfricke.de/post/energy-resource-ai-de/

28. Technology Review, 5/2025. “We did the math on AI’s energy footprint”.
    https://www.technologyreview.com/2025/05/20/1116327/ai-energy-usage-climate-footprint-big-tech/

29. The Register, 10/25, “Climate goals go up in smoke as US datacenters turn to coal”.
    https://www.theregister.com/2025/10/10/datacenter_coal_power/

30. Sam Altman, 6/25, “The Gentle Singularity”.
    https://blog.samaltman.com/the-gentle-singularity

31. Google Cloud Blog, 8/26, “How much energy does Google’s AI use?”.
    https://cloud.google.com/blog/products/infrastructure/measuring-the-environmental-impact-of-ai-inference

32. Ketan Joshi, 08/25, “Big tech’s selective disclosure masks AI’s real climate impact”.
    https://ketanjoshi.co/2025/08/23/big-techs-selective-disclosure-masks-ais-real-climate-impact/

33. The Register, 10/25, “Grounded jet engines take off again as datacenter generators”.
    https://www.theregister.com/2025/10/22/datacenter_jet_engines/

34. Pivot to AI, 10/25, “AI: powered by old jet turbines, near you!”.
    https://pivot-to-ai.com/2025/10/30/ai-powered-by-old-jet-turbines-near-you/

35. The Atlantic, 3/2024. “AI Is Taking Water From the Desert”.
    https://www.theatlantic.com/technology/archive/2024/03/ai-water-climate-microsoft/677602/

36. Bloomberg, 5/2025. “AI is draining water from the areas that need it most”.
    https://www.bloomberg.com/graphics/2025-ai-impacts-data-centers-water-data/

37. Nature Sustainability, 11/25, “Environmental impact and net-zero pathways for sustainable artificial intelligence servers in the USA”.
    https://www.nature.com/articles/s41893-025-01681-y

38. The Guardian, 12/25, “Thirsty work: how the rise of massive datacentres strains Australia’s drinking water supply”.
    https://www.theguardian.com/environment/2025/dec/04/thirsty-work-how-the-rise-of-massive-datacentres-strains-australias-drinking-water-supply

39. Futurism, 10/25, “AI Data Centers Are an Even Bigger Disaster Than Previously Thought”.
    https://futurism.com/future-society/ai-data-centers-finances

40. National Observer, 9/25, “Google deletes net-zero pledge from sustainability website”.
    https://www.nationalobserver.com/2025/09/04/investigations/google-net-zero-sustainability

41. Iris van Rooij, 8/2025. “AI slop and the destruction of knowledge”.
    https://irisvanrooijcogsci.com/2025/08/12/ai-slop-and-the-destruction-of-knowledge/

42. Ronald Purser, Current Affairs, 12/25, “AI is Destroying the University and Learning Itself”.
    https://www.currentaffairs.org/news/ai-is-destroying-the-university-and-learning-itself

43. 404 Media, 6/2025. “Teachers Are Not OK”.
    https://www.404media.co/teachers-are-not-ok-ai-chatgpt/

44. Huffpost, 11/25, “I Set A Trap To Catch My Students Cheating With AI. The Results Were Shocking.”.
    https://www.huffpost.com/entry/history-professor-ai-cheating-students_n_69178150e4b0781acfd62540

45. TechCrunch, 01/2025, “How OpenAI’s bot crushed this seven-person company’s website ‘like a DDoS attack’”.
    https://techcrunch.com/2025/01/10/how-openais-bot-crushed-this-seven-person-companys-web-site-like-a-ddos-attack/

46. MIT Technology Review, 2/25, “AI crawler wars threaten to make the web more closed for everyone”.
    https://www.technologyreview.com/2025/02/11/1111518/ai-crawler-wars-closed-web/

47. Daniel Stenberg, 07/25, “Death by a thousand slops”.
    https://daniel.haxx.se/blog/2025/07/14/death-by-a-thousand-slops/

48. Korny Sietsma, 10/25, “Agentic AI and Security”.
    https://martinfowler.com/articles/agentic-ai-security.html

49. OWASP - GenAI Security Project, 2025, “LLM01:2025 Prompt Injection”.
    https://genai.owasp.org/llmrisk/llm01-prompt-injection/

50. Hartzog, Woodrow and Silbey, Jessica M., 12/25, “How AI Destroys Institutions”. 77 UC Law Journal (forthcoming 2026), Boston Univ. School of Law Research Paper No. 5870623.
    https://ssrn.com/abstract=5870623

51. Brian Porte & Edouard Machery. Nature, Scientific Reports, 2024. “AI-generated poetry is indistinguishable from human-written poetry and is rated more favorably”.
    https://www.nature.com/articles/s41598-024-76900-1

52. Stanford Business, 5/25, “When AI-Generated Art Enters the Market, Consumers Win — and Artists Lose”.
    https://www.gsb.stanford.edu/insights/when-ai-generated-art-enters-market-consumers-win-artists-lose

53. Voce di Wikipedia “Reinforcement learning from human feedback”.
    https://en.wikipedia.org/wiki/Reinforcement_learning_from_human_feedback

54. Noema, 09/24, “The human cost of our AI-driven future”.
    https://www.noemamag.com/the-human-cost-of-our-ai-driven-future/

55. Jürgen Geuther, intervento a GPN23, 6/25. “Against Tech-Fascism”.
    https://www.youtube.com/watch?v=fOCxosh0cqA

56. New York Times, 09/25, “How Elon Musk Is Remaking Grok in His Image”.
    https://www.nytimes.com/2025/09/02/technology/elon-musk-grok-conservative-chatbot.html

57. The Authoritarian Stack. https://www.authoritarian-stack.info/

58. “Tech Bro Topia”, documentario DLF (tedesco), 2025.
    https://www.deutschlandfunk.de/tech-bro-topia-f1-mit-der-roten-pille-zur-macht-100.html

59. Time, 04/25, “15 Quotes on the Future of AI”.
    https://time.com/partner-article/7279245/15-quotes-on-the-future-of-ai/

60. Courtney C. Radsch, 10/25, “We should all be Luddites”.
    https://www.brookings.edu/articles/we-should-all-be-luddites/

61. Fiona Fokus Blog, 11/25, “I don’t care how well your ‘AI’ works”.
    https://fokus.cool/2025/11/25/i-dont-care-how-well-your-ai-works.html

In questa esistenza, la felicità è un sogno dentro un sogno: effimera, precaria, breve, subito dimenticata. La sofferenza, invece, è un’erba infestante onnipresente, anche se spesso facciamo finta di non vederla. Inventiamo mille follie per estirparla, ma nessuna funziona.

Soldi e lavoro, amore e famiglia, titoli e onori, un corpo che attiri e, magari, anche una salute decente sono le più note cure palliative per il mal di vivere. Così, nei giorni infelici che si susseguono, alcuni riusciranno a stare un po’ meglio, almeno provvisoriamente, ma la maggioranza di noi no, perché le cure che ho elencato dipendono quasi completamente dalla buona fortuna, dalle circostanze favorevoli e dall’età, e solo in minima parte dal proprio impegno, anche se virtuoso e costante, o dalla propria intelligenza ed erudizione. Anzi, tanto vale ammettere francamente che è più facile trovare felicità tra i pazienti anziani di una RSA, affetti da demenza, grave amnesia e invalidità fisiche, che tra persone giovani, colte, belle e intelligenti.

Oltre al mal di vivere, poi, c’è anche la paura della morte, che sembra accomunare tutte le creature senzienti. Persino un verme che sa solo strisciare ha paura di essere ucciso, a maggior ragione questo vale per noi. La società è sempre più violenta e imbarbarita, così come la percezione di vivere in un tempo terminale e apocalittico è sempre più radicata nelle nostre coscienze. Se a questo aggiungiamo l’incertezza di fondo che a un nostro respiro possa seguirne un altro, ecco che allora le strategie per esorcizzare la morte sono più delle stelle in cielo.

Così, nel sottobosco più oscuro delle nostre società iper-tecnologiche e iper-scientiste, troviamo ritualità così indecenti che le parole non possono bastare per esprimerne lo schifo e la brutalità. Questo vale sia per il popolino, sia e soprattutto per la classe dirigente. A dimostrazione del fatto che tutto cominci dal vendersi l’anima al diavolo, basterebbe notare che solo chi è rimasto senza anima è continuamente alla ricerca dell’amrita, cioè della vita eterna. Gli altri, quell’esigua minoranza di persone consapevoli di “essere un’anima” in un corpo temporaneo, non si pongono neppure il problema, e non hanno bisogno di sciogliere nell’acido i corpi delle bambine da loro seviziate o di trafugare ossa in un cimitero per farci saponette e candele.

Al di là di queste perversioni richieste come prezzo per la falsa promessa di soldi, fama, sesso, potere e vita eterna, rimane il fatto che la natura della vita è il “desiderio”, e solo un “essere desiderante” può dirsi vivente. L’appagamento dei desideri, spesso intrecciati e sovrapposti ai bisogni, è ciò che comunemente, ed erroneamente, intendiamo come felicità. Parlare dei propri desideri, o della propria felicità, significa allora esprimere ciò che, nonostante tutto, ci spinge a vivere.

Il desiderio è un demone che ci dà un orientamento e qualche motivo per “esistere”. In realtà non ci spiega né “perché” esistiamo, né “chi siamo”: è solo una bussola che a noi appare rotta, ma il cui ago, come le nostre follie, potrebbe obbedire a un ordine che non comprendiamo. Nessuno di noi sa che cosa sia la “realtà”, ciò nonostante la distinzione tra realtà e desiderio è quanto di più chiaro ci sia: la loro distanza è la misura della nostra sofferenza.

Mentre la felicità è sovente associata, per lo meno istintivamente, al bene, alla giustizia e all’amore ricambiato, e quindi ad un mondo che non c’è, la sofferenza è quasi sempre vissuta come una conseguenza del male subito, dell’ingiustizia, dei bisogni non soddisfatti e dei desideri non appagati. Tuttavia, se domandassimo a ciascun essere umano che cosa siano il bene e il male, la giustizia e l’ingiustizia, l’amore e il non-amore, otterremmo più risposte diverse, anche dalle stesse persone, di quante siano le gocce d’acqua nel mare. Siamo infatti prigionieri di una realtà allucinata in cui ognuno si crea il proprio piccolo mondo, che spesso è difficile da condividere, e quasi sempre è percepito come estraneo ai propri desideri.

Così, i giorni si susseguono, e la sofferenza continua ad accumularsi.

Esiste però un modo di vivere alternativo, tutt’altro che spontaneo, perché significa trasformare ogni attimo vissuto in un momento di consapevolezza e di introspezione. L’alternativa a cui mi riferisco è quella di dimorare nella realtà, anziché nei desideri, che comunque continueranno a sorgere in un lavorio mentale senza fine. Accettare tutto questo non è complicato: significa semplicemente, ogni volta che sorge un desiderio, cioè ad ogni respiro, rispondere interiormente con un “Rinuncio!”.

Beninteso, la rinuncia che possiamo praticare non è al desiderio in sé, perché altrimenti saremmo senza vita, ma al tentativo di appagarlo, perché, nella “quasi” totalità dei casi, la realtà ci impone questa resa. L’ordine interiore di rinuncia è liberatorio, è l’inizio della pace interiore. Ciò implica anche accettare che “la realtà è giusta così com’è”, quindi rinunciare anche alla pretesa che debba minimamente adeguarsi ai nostri desideri. Ciò equivale a smetterla di dire a Dio ciò che è giusto e sbagliato, ciò che è bene e male, e ciò che deve fare. Uscire da questa bestemmia continua è davvero liberatorio. Non lo dico in senso confessionale e neppure potrei, ma solo in senso pragmatico.

Altrimenti, si rimane in guerra permanente con il mondo e con se stessi, in un inferno di incessante sofferenza. In questa lotta vince sempre e comunque la realtà, non il desiderio, salvo quei rari e passeggeri casi, inafferrabili come sogni, in cui coincidono.

(16 giugno 2026)