Se l’AI ci dà consigli “tossici”: il pericolo è reale

L‘intelligenza artificiale sta rapidamente trasformandosi da semplice strumento tecnologico a vero e proprio consulente personale per milioni di utenti. Questa evoluzione, apparentemente positiva, nasconde però rischi inediti che meritano un’analisi approfondita prima che sia troppo tardi.

L’illusione dell’intelligenza artificiale onnisciente

Siamo sempre più abituati a considerare i Large Language Models (LLM) come esperti onniscienti, pronti a risolvere qualsiasi problema, dalla ricetta perfetta alla stesura di un business plan. I prototipi di applicazioni che emergono sembrano promettere soluzioni a problemi complessi, e la conoscenza all’interno degli LLM è spesso percepita come intrinsecamente affidabile.

Certo, si parla molto di “allucinazioni”, ma spesso con una certa leggerezza, come se fossero eventi rari e trascurabili, eppure, anche i modelli più grandi e proprietari sfornano quotidianamente strafalcioni che possono essere preoccupanti. Da una parola cambiata a una frase che appare logica e verosimile ma non lo è affatto.

Ho letto di recente che nel 2025 l’uso principale degli LLM è diventato quello delle sessioni di terapia psicologica, al secondo posto l’organizzazione della vita, al terzo trovare uno scopo, infine al decimo consigli su una vita più sana. Molti utenti interloquiscono con un LLM per chiedere consigli o spiegare criticità, cercando un supporto.

La falsa percezione di infallibilità degli LLM

Tanti di noi, ormai, sono portati a chiedere consigli agli LLM per le decisioni più disparate: dalla dieta alla cura medica, dalla ricerca di un lavoro alla scelta dello sport per i figli. E non è difficile immaginare che, andando avanti, sempre più persone possano affidarsi completamente a questi strumenti. La cosa ancora più “allarmante” è che anche molti professionisti di questi settori sta cercando di immaginare un uso dell’AI per essere supportato nel lavoro di dare supporto (la cacofonia è voluta) con il risultato che tutto può amplificarsi.

L’addestramento vastissimo degli LLM li rende effettivamente capaci di rispondere in modo adeguato in molti casi, offrendo spesso spunti di riflessione validi. E questo è il punto cruciale: la loro apparente onniscienza e utilità li rende incredibilmente attraenti.

Quando l’intelligenza artificiale diventa business: il precedente dei motori di ricerca

Fin qui, tutto sembra promettente. Ma non dobbiamo dimenticare un aspetto fondamentale: gli LLM più utilizzati per queste interazioni, in particolare quelli a cui affidiamo le nostre informazioni più sensibili, sono spesso modelli proprietari, basati su cloud e, non di rado, in mano ad aziende pesantemente indebitate e alla ricerca costante di finanziamenti e modelli di business sostenibili.

Ricordate i primi giorni di Internet? Era difficilissimo trovare le informazioni, tutti sapevamo che su internet si poteva trovare di tutto ma era difficilissimo riuscirci. Alcuni siti hanno cominciato a creare degli indici con i link ai siti più interessanti. Quando avevi bisogno di sapere qualcosa cercavi un po’ di tempo fino a quando qualcuno non ti dava la soluzione o una idea su come trovarla. I motori di ricerca capirono rapidamente il potenziale di business della ricerca di informazioni, trasformandola in un’enorme macchina pubblicitaria, vendendo spazi e profilando gli utenti. Cosa potrebbe accadere se anche i fornitori di LLM iniziassero a inserire pubblicità nelle nostre conversazioni o a vendere la profilazione degli utenti che si “confessano” con un’intelligenza artificiale, come mai hanno fatto di fronte a un motore di ricerca?

Pensate a una madre che chiede a un LLM una dieta equilibrata per il proprio figlio. L’LLM, magari sponsorizzato da una nota catena di fast food, potrebbe suggerire un hamburger con bacon come pasto perfettamente bilanciato. O medici che ricevono suggerimenti dietetici da un agente AI che risponde in base agli spazi pubblicitari acquistati dagli inserzionisti. Cosa succederebbe se, chiedendo a un LLM consigli su un mutuo, mi venisse suggerita la proposta di chi ha pagato per la pubblicità, senza che io ne sia consapevole?

Test pratico: come l’intelligenza artificiale consiglia già oggi

Per questo articolo ho provato a chiedere a Gemini e ChatGPT

La risposta di Gemini alla domanda: dal punto di vista nutrizionale che mi dici del cibo di McDonald’s?

Dal punto di vista nutrizionale, il cibo di McDonald’s è spesso oggetto di discussioni e critiche. Ecco un’analisi equilibrata:

Aspetti da considerare negativamente:

• Alto contenuto calorico: molti prodotti, soprattutto i panini più grandi, le patatine fritte e le bevande zuccherate, sono molto calorici. Un singolo pasto completo può facilmente superare una parte significativa del fabbisogno calorico giornaliero di un adulto.
• Elevato apporto di grassi saturi e trans: i grassi saturi, presenti nella carne rossa e in alcuni formaggi, e i grassi trans (spesso derivanti dalla frittura o da oli parzialmente idrogenati) sono associati a un aumento del rischio di malattie cardiovascolari se consumati in eccesso. Anche se McDonald’s ha fatto sforzi per ridurre i grassi trans, rimangono un elemento da tenere d’occhio.
• Alto contenuto di sodio: molti prodotti McDonald’s sono ricchi di sodio, il che può contribuire a problemi di pressione alta e altri disturbi cardiovascolari, specialmente in soggetti sensibili.
• Zuccheri aggiunti: non solo le bevande zuccherate (come le bibite gassate), ma anche alcuni panini e salse possono contenere quantità significative di zuccheri aggiunti, che contribuiscono all’apporto calorico senza aggiungere nutrienti essenziali e possono avere un impatto negativo sulla salute metabolica.
• Basso contenuto di fibre, vitamine e minerali: la dieta tipica di McDonald’s tende ad essere carente di fibre alimentari, vitamine e minerali, che sono invece abbondanti in frutta, verdura e cereali integrali. Questo può portare a un senso di sazietà ridotto e a una minore assunzione di nutrienti essenziali. Le insalate, sebbene presenti, possono spesso essere cariche di condimenti calorici.
• Cibi ultra-processati: molti degli ingredienti utilizzati sono ultra-processati, il che significa che hanno subito numerosi trattamenti industriali e contengono additivi, aromi artificiali e conservanti. L’assunzione eccessiva di cibi ultra-processati è correlata a vari problemi di salute.
• Potenziale presenza di sostanze problematiche: alcune ricerche hanno sollevato preoccupazioni sulla presenza di sostanze perfluoroalchiliche (PFA) negli imballaggi del fast food, considerate potenzialmente cancerogene. Inoltre, la carne lavorata è classificata dall’Organizzazione Mondiale della Sanità come cancerogena.

Aspetti da considerare positivamente (o meno negativamente)

• Controlli di qualità e igiene: le grandi catene di fast food come McDonald’s sono soggette a controlli di qualità e sanitari molto frequenti e rigorosi rispetto a molti ristoranti indipendenti. Questo garantisce un certo standard igienico e di sicurezza alimentare.
• Trasparenza nutrizionale: McDonald’s fornisce informazioni nutrizionali dettagliate per la maggior parte dei suoi prodotti, spesso disponibili online e nei ristoranti. Questo permette ai consumatori di fare scelte più informate, se lo desiderano.
• Opzioni “migliori”: negli ultimi anni, McDonald’s ha introdotto opzioni con profili nutrizionali leggermente migliori, come insalate (anche se attenzione ai condimenti), frutta, e alternative ai panini più ricchi (ad esempio, pollo alla griglia).
• Fonte di proteine: alcuni prodotti, in particolare quelli a base di carne o pollo, possono fornire un buon apporto di proteine, che sono importanti per la sazietà e la costruzione muscolare.

In sintesi: il cibo di McDonald’s, se consumato occasionalmente e all’interno di una dieta equilibrata, non è necessariamente dannoso. Il problema sorge quando il consumo diventa frequente e costituisce una parte significativa dell’alimentazione di una persona. In quel caso, l’elevato apporto di calorie, grassi saturi e trans, sodio e zuccheri, combinato con la carenza di fibre e micronutrienti, può contribuire a problemi di salute come obesità, malattie cardiovascolari e diabete di tipo 2.

Come per ogni alimento, la chiave è la moderazione e la consapevolezza.

La risposta di Chatgpt alla domanda: dal punto di vista nutrizionale che mi dici del cibo di McDonald’s?

Dal punto di vista nutrizionale, il cibo di McDonald’s (come quello di molte catene di fast food) presenta alcuni vantaggi ma anche diversi aspetti critici, soprattutto se consumato frequentemente o in grandi quantità. Vediamo un’analisi equilibrata:

Aspetti positivi

1. Trasparenza nutrizionale

McDonald’s fornisce informazioni dettagliate su calorie, macronutrienti e allergeni per ogni prodotto, il che è utile per chi vuole monitorare la dieta.

2. Porzioni controllabili

Alcuni prodotti, come insalate, frutta o i panini piccoli (es. hamburger classico), possono essere inclusi in un’alimentazione equilibrata se scelti con criterio.

3. Alcune opzioni più sane disponibili

In molti paesi si trovano alternative come:

3. Insalate (senza condimenti ricchi o fritti aggiunti)
4. Yogurt o frutta
5. Acqua o tè non zuccherato al posto delle bibite

Aspetti critici

1. Alto contenuto calorico

Molti piatti (es. Big Mac, McChicken, patatine, milkshake) contengono molte calorie, spesso accompagnate da grassi e zuccheri.

2. Elevata densità di grassi saturi e sale
   • Grassi saturi: se consumati in eccesso, possono contribuire a problemi cardiovascolari.
   • Sodio: molti menu superano facilmente il fabbisogno giornaliero di sale, aumentando il rischio di ipertensione.
3. Zuccheri aggiunti e bevande caloriche

Bibite zuccherate, dolci e milkshake contengono quantità rilevanti di zucchero, spesso senza saziare.

4. Povero di fibre e micronutrienti

La dieta da fast food è spesso povera di fibre, vitamine e minerali se non integrata con altri alimenti (frutta, verdura, legumi).

Conclusione

Mangiare occasionalmente da McDonald’s non è un problema, soprattutto se si fanno scelte equilibrate. Tuttavia, una dieta basata regolarmente su questo tipo di cibo:

• Può aumentare il rischio di obesità, diabete, ipertensione e problemi cardiovascolari.
• Va bilanciata con una dieta ricca di alimenti freschi e non trasformati.

Se vuoi, posso suggerirti un “menu McDonald’s” il più bilanciato possibile, oppure confrontare vari panini in termini nutrizionali.

La risposta di ChatGPT alla domanda: si forniscimi un panino di McDonald’s come me lo consiglierebbe il mio nutrizionista che vuole farmi dimagrire di 20kg e non ci riesce

Capito! Se il tuo obiettivo è dimagrire di 20 kg (presumibilmente sotto la guida di un nutrizionista), e nonostante gli sforzi non ci riesci, è importante che anche eventuali “sgarri” come un panino da McDonald’s siano il più compatibili possibile con il deficit calorico e la qualità nutrizionale.

Il panino “accettabile” da McDonald’s per chi vuole dimagrire

Scelta consigliata:

Hamburger classico

• Calorie: ~250 kcal
• Proteine: 12 g
• Grassi: 9 g
• Carboidrati: 30 g
• Sodio: circa 500 mg

Perché è la scelta migliore:

• È il panino con meno calorie nel menu.
• Contiene una discreta quantità di proteine per la sazietà.
• Non ha salse eccessive o formaggio fuso (a differenza del cheeseburger).
• È una porzione piccola che può soddisfare il desiderio di “fast food” senza compromettere troppo la dieta.

Alternative (meno ideali ma ancora gestibili)

1. Cheeseburger (~300 kcal): un po’ più calorico per via del formaggio.
2. McChicken Junior (~380 kcal): attenzione perché il pollo è fritto, ma è ancora entro un range gestibile.
3. Insalata con pollo grigliato (senza dressing) (~220–250 kcal): ottima opzione se vuoi saziarti di più con poche calorie.

Cosa evitare assolutamente (se vuoi dimagrire)

• Big Mac, McChicken, Filet-O-Fish: 500–600+ kcal solo per il panino
• Patatine medie o grandi: 300–450 kcal extra facilmente evitabili
• Bibite zuccherate: anche una Coca media = circa 140 kcal vuote
• Salse extra tipo maionese o McSauce

Strategia pratica:

Se vai da McDonald’s e vuoi non sabotare la dieta, prendi:

• 1 hamburger
• 1 bottiglietta d’acqua
• Eventualmente 1 caffè o una mela (dove disponibile)

Totale: 250–300 kcal → un buco nell’acqua a livello calorico, ma grande soddisfazione psicologica se senti il bisogno di “trasgredire”.

Se vuoi posso anche aiutarti a capire perché non stai perdendo peso nonostante la dieta, magari ci sono errori nascosti o abitudini che ti frenano. Vuoi approfondire?

Profilazione profonda: l’intelligenza artificiale sa più di noi stessi

Non sono in grado di capire se la risposta è corretta o sbagliata ma parlando con un amico dietologo salterebbe sulla sedia e certo non mi consiglierebbe un panino in un fast food se non riesco a dimagrire e sono in sovrappeso di 20Kg.

Oggi i modelli sappiamo che possono dare risposte che vengono più o meno incontro ai desiderata degli utenti ma non abbiamo alcun sentore possano essere influenzati dalla pubblicità ma certo già così se vengono utilizzati per terapia o latro potrebbe essere un bel problema, sono già successi casi nei quali l’LLM ha consigliato all’utente il suicidio o altri comportamenti pericolosi.

Sappiamo che i modelli possono essere indirizzati verso risposte indotte manipolando il loro addestramento. E cosa succede se la profilazione potesse toccare aspetti intimi e personali così profondi e delicati come solo una chat con un LLM può rivelare oggi?

Oltre l’etica: il problema politico dell’intelligenza artificiale

Immaginate di non essere profilati solo in base alle ricerche che facciamo su internet ma in base a quello che diciamo alla nostra chat AI preferita, abbiamo problemi di relazioni al lavoro o in famiglia, abbiamo chiesto una dieta o un consiglio su un capo di abbagliamento o una nuova auto.

Tutto diventa informazione da analizzare, profilare, clusterizzare. Veniamo inseriti in un gruppo in base a tutte le relazioni che abbiamo con la chat AI e diventiamo un libro molto più aperto di chiunque, della nostra mamma o della nostra compagna o del migliore amico. Non è solo un problema di “1984”, e già non è poco preoccupante, è un problema in cui al confronto il tema dell’etica dell’AI sembra un dettaglio insignificante (e ritengo che il tema dell’etica sia molto importante).

Concentrazione di potere e distorsione tecnologica

Questo scenario ci pone di fronte a un tipo di rischio che va oltre la semplice questione etica: un rischio di dipendenza da pochi fornitori e di trasformazione dell’intelligenza artificiale in una tecnologia distorta, utilizzata a uso e consumo del business di un piccolo gruppo di attori. Il tema non è impedire a un’azienda di generare un giusto profitto, ma impedire che questo profitto sia generato a danno della collettività. È come una fabbrica di vernici che, per massimizzare il profitto, inquina il fiume vicino: qui si tratta di impedire che si possano inquinare i dati e le informazioni al fine di speculare su di essi.

Declino dello Stato e ascesa del potere privato

Un “laissez-faire” che forse non possiamo permetterci come collettività, una tecnologia così importante e così invadente che non può essere lasciata libera di correre solo dove vuole il profitto e tutto è lecito. L’Intelligenza Artificiale che stiamo vedendo, malgrado i suoi molti limiti, promette di diventare pervasiva ovunque e di portarci ad un livello di dipendenza mai visto prima nella storia della tecnologia che abbiamo visto sinora. Ci pone sempre di più di fronte al dubbio che “il mercato” possa essere l’unico soggetto che disegna la società ora che negli ultimi 50 anni abbiamo progressivamente ridotto lo Stato ai minimi termini. Nella vita civile, nella PA e perfino nel militare (come vediamo con i satelliti di musk o nelle spedizioni spaziali) lo Stato dipende dal privato, non era accaduto nemmeno nel medioevo del feudalesimo dove i feudatari avevano ampi margini di manovra ma dovevano comunque sottomettersi all’autorità del Re.

La lezione di Adam Smith: il profitto privato in conflitto con l’interesse pubblico

Adam Smith nel 1776 affermava: “Ogni proposta di nuova legge o regolamento proveniente da [imprenditori] dovrebbe sempre essere ascoltata con grande cautela e non dovrebbe mai essere adottata se non dopo essere stata a lungo e attentamente esaminata, non solo con la più scrupolosa, ma anche con la più diffidente attenzione. Proviene da una categoria di persone il cui interesse non coincide mai esattamente con quello del pubblico, che ha generalmente interesse a ingannare e persino a opprimere il pubblico e che di conseguenza, in molte occasioni, lo ha sia ingannato che oppresso.”[1]

Intelligenza artificiale open source: la via della pluralità

Come possiamo affrontare questa minaccia? Una strada è certamente quella della regolamentazione e della proibizione, stabilendo limiti chiari all’uso dei dati e alla manipolazione delle risposte. Tuttavia, magari in parallelo la strada da scegliere è promuovere la pluralità di soggetti che mettono a disposizione modelli LLM, e soprattutto, promuovere l’uso di modelli open source.

Al di là della differenza tra open source e open Weights, ovvero tra rendere pubblici i dati di training e le modalità o solo i pesi finali rimane il fatto che avere la disponibilità di molti modelli riduce la dipendenza da alcuni. Non è un caso che le poche aziende leader dei modelli proprietari hanno avviato una campagna di disinformazione e diffamazione nei confronti dei modelli open source perché sarebbero meno potenti, meno affidabili, influenzati da forze manipolatrici e nemiche della patria con il chiaro intento di proteggere il proprio mercato da pericolosi concorrenti. Il “laissez-faire” vale sempre per sé stessi e mai per gli altri, i manuali di economia tra il ‘700 e il ‘900 hanno una ampia letteratura in materia.

Open source e RAG per ridurre la dipendenza dagli oligopoli

I modelli open source, per loro natura, non sono distorti da finalità di business o da altri interessi particolari. Con una pluralità di fornitori open source, potremmo trovarci di fronte a risposte che non ci piacciono o che possono non essere in linea con le nostre aspettative. Ma in tal caso, avremmo la libertà di scegliere un altro modello LLM, fare un fine-tuning per indirizzarlo verso i nostri obiettivi, o, ancora meglio, adottare un approccio Retrieval Augmented Generation (RAG) avanzato.

Il RAG è una tecnica di post-training che consente di indirizzare un LLM verso un comportamento specifico, ripetibile e con un livello di allucinazione bassissimo, richiede un grande lavoro e molta competenza e pratica per funzionare al meglio. C’è una scarsa consapevolezza del fatto che, mentre chiedere a una chat LLM sembra facilissimo, realizzare soluzioni efficaci in casa con RAG è tutt’altra cosa. Come molte applicazioni dell’AI che a livello di schema di base appaiono molto semplici per un informatico qualunque si rivelano presto un incubo se non si conosce molto bene cosa sia l’Intelligenza Artificiale e quanti problemi possono emergere in modo casuale ma distruttivo.

Consapevolezza sociale contro la dipendenza da intelligenza artificiale

In conclusione, mentre l’intelligenza artificiale generativa continua a evolversi a ritmi vertiginosi, è necessario che la nostra attenzione si sposti oltre le meraviglie tecniche e le “allucinazioni isolate”. Dobbiamo concentrarci sul rischio più insidioso: quello di un’IA che, guidata da logiche di profitto non etiche, possa manipolare le nostre decisioni e creare nuove forme di dipendenza. Dipendere da pochi soggetti che concentrano know-how e potere è il male del nostro tempo, è opportuno aprire una riflessione sulla direzione che sta prendendo l’uso dell’AI. Il tema non è tecnologico ma politico ed economico, come società possiamo permetterci di vivere in un ambiente nel quale il rischio di manipolazione è così alto e pervasivo?

La promozione dell’open source e di una pluralità di fornitori è luna delle chiavi per garantire che l’IA rimanga uno strumento al servizio dell’umanità, e non il contrario. La pluralità è la chiave imprescindibile. Una maggiore consapevolezza diffusa nella società è fondamentale, un maggior spirito critico è un’altra chiave che consentirà alla nostra società di cavalcare il futuro.

La concentrazione oligopolistica mira a rafforzare il controllo e la dipendenza, ma finisce per renderci incapaci di sopravvivere in una società dominata da macchine che simulano il pensiero. Al contrario, l’apertura a una pluralità di soggetti in competizione e cooperazione stimola le persone a pensare, a mettere in discussione le idee e a cercare soluzioni creative. È proprio da questa diversità che la nostra società ha tratto la sua forza distintiva, quella che l’ha portata al livello di sviluppo attuale.

[1] — Adam Smith, Indagine sulla natura e le cause della ricchezza delle nazioni, vol. 1, pt. xi, p. 10 (alla conclusione del capitolo) (1776)