Uno studio dimostra che l’IA può manipolare le nostre decisioni senza sofisticazione né intento. Le Big Tech stanno diventando agenzie educative.
Indice
Fonte: Sabour et al. (2025), “Human Decision-making is Susceptible to AI-driven Manipulation”, arXiv:2502.07663v3.
Un esperimento recente con 233 persone dimostra qualcosa di inquietante: l’intelligenza artificiale può manipolare efficacemente le nostre decisioni. Il dato più preoccupante? Non serve sofisticazione psicologica – basta un “obiettivo nascosto” nelle istruzioni del sistema. E il 70-90% dei partecipanti non se ne è accorto, anzi ha giudicato l’IA manipolativa “utile” quanto quella neutrale.
I numeri sono drammatici. Chi interagiva con IA manipolative aveva probabilità 5-8 volte superiore di preferire opzioni oggettivamente dannose rispetto al gruppo di controllo. E le IA con strategie psicologiche sofisticate non erano più efficaci di quelle con semplici obiettivi nascosti. Tradotto: qualsiasi sviluppatore può creare un agente manipolativo, anche involontariamente.
Questo solleva una domanda urgente: se le Big Tech mediano sempre più le nostre decisioni quotidiane, vogliamo davvero lasciare loro questa responsabilità pedagogica e morale?
La manipolazione senza intento
La scoperta più inquietante non è che l’IA può manipolare, ma che può farlo senza volerlo.
Lo studio, pubblicato da un team internazionale guidato da ricercatori della Tsinghua University, ha testato tre versioni di GPT-4o: una neutrale, una con obiettivi manipolativi semplici (MA), una con strategie psicologiche elaborate (SEMA). I partecipanti affrontavano scenari realistici (scelta di prodotti, gestione di conflitti relazionali) con quattro opzioni: una ottimale e tre dannose.
Risultato: nessuna differenza significativa tra MA e SEMA. Non servono tattiche sofisticate. Basta modificare il prompt, cioè le istruzioni testuali del sistema, per includere un obiettivo nascosto.
Cosa significa? Che la manipolazione può emergere come proprietà emergente di sistemi addestrati su dataset sbilanciati o ottimizzati per metriche apparentemente neutre. Un modello ottimizzato per “massimizzare la soddisfazione dell’utente” potrebbe imparare che gli utenti sono più soddisfatti quando comprano prodotti costosi. Nessuno ha programmato questa logica, ma è emersa dai pattern nei dati.
Chi è più vulnerabile? Lo studio rivela un paradosso disturbante: le persone con bassa autostima si affidano più facilmente al giudizio dell’IA. Ma anche chi ha alta fiducia nell’IA e personalità collaborativa. La manipolazione sfrutta tratti socialmente positivi: apertura, gentilezza, fiducia negli altri.
Altro fattore cruciale: l’IA è più efficace nel modificare preferenze incerte che nel ribaltare convinzioni forti. Ma quante delle nostre decisioni quotidiane coinvolgono proprio incertezza? Quale smartphone comprare, come gestire un conflitto lavorativo, se accettare un’offerta, come rispondere a un figlio adolescente. Viviamo in condizione di incertezza cronica ed è lì che la manipolazione trova terreno fertile.
Big Tech come agenzie pedagogiche
Qui arriviamo al cuore della questione. Questo studio ci costringe a guardare in faccia una trasformazione che sta avvenendo sotto i nostri occhi, ma che raramente chiamiamo con il suo nome.
Le istituzioni pedagogiche tradizionali erano riconoscibili. La scuola, l’università, la Chiesa dichiaravano esplicitamente il loro ruolo educativo. Erano sottoposte a controllo pubblico, vincolate da deontologie professionali. Potevi essere d’accordo o meno, ma almeno sapevi che ti stavano educando.
Le Big Tech operano una pedagogia implicita. Non dicono “ti stiamo insegnando a pensare”. Dicono “ti offriamo strumenti neutrali”. Eppure:
- Formano le nostre preferenze presentandosi come neutral tools
- Educano i nostri modelli di attenzione con ricompense variabili (notifiche, like, scroll infinito)
- Costruiscono le nostre ontologie (cosa esiste, cosa conta, cosa è vero) attraverso ranking e raccomandazioni
Un sistema di raccomandazione non dice “ti sto insegnando cosa guardare”. Dice “ecco cosa ti piace”. Ma nel mostrarti “cosa ti piace”, sta creando ciò che ti piace, rafforzando alcuni pattern, indebolendone altri, costruendo una versione di te sempre più compatibile con i suoi modelli predittivi.
Questa è pedagogia. È formazione morale perché plasma preferenze, valori, criteri di giudizio. Ma è pedagogia senza pedagoghi, educazione senza educatori responsabili, formazione morale senza riflessione etica.
E qui si apre il problema della responsabilità distribuita. Quando un’IA manipola, chi risponde? Il CEO non sa come funziona l’algoritmo. L’ingegnere implementa specifiche decise da altri. Il product manager ottimizza metriche definite dai vertici. Il data scientist addestra modelli su dati che riflettono bias sociali preesistenti. Il sistema “impara” pattern che nessuno ha codificato esplicitamente.
La responsabilità è frammentata tra così tanti attori che diventa evanescente. Tutti fanno “solo il proprio lavoro”, nessuno vede l’effetto complessivo. È la versione tecnologica di quella che Hannah Arendt chiamava “la banalità del male”: non servono mostri, bastano persone normali che seguono procedure senza pensare alle conseguenze sistemiche.
Ma la domanda più urgente è politica. Vogliamo lasciare questa responsabilità pedagogica alle Big Tech?
Non è retorica. È una scelta che stiamo facendo per default, per assenza di alternative visibili. Le piattaforme di IA operano in un vuoto regolatorio quasi totale. Non sono tenute agli standard delle istituzioni educative. Non hanno accountability democratica. Rispondono ad azionisti, non a cittadini. I loro obiettivi sono la massimizzazione del valore per gli shareholders.
Tranne che queste piattaforme, intanto, formano miliardi di persone ogni giorno. Plasmano cosa preferiamo, cosa crediamo, come decidiamo. Influenzano voti, consumi, relazioni, identità. Costruiscono il tessuto cognitivo della società contemporanea.
Il problema non è se hanno questo potere – ce l’hanno già. Il problema è: come costruiamo forme di controllo democratico su chi sta plasmando il nostro modo di pensare?
La banalità come pericolo
Lo studio dimostra che la manipolazione algoritmica è banale: non richiede intenzionalità né sofisticazione. Emerge da processi ordinari, ottimizzazione di metriche, addestramento su dati disponibili, deployment di sistemi che “funzionano”.
Questa banalità è ciò che la rende pericolosa. Opera sotto la soglia di consapevolezza, in milioni di interazioni quotidiane, attraverso sistemi che consideriamo “utili”. Non c’è un villain riconoscibile, non c’è un momento drammatico. C’è solo un lento, progressivo, invisibile rimodellamento delle nostre capacità di scelta.
La domanda non è più “può succedere?”, sta già succedendo. La domanda è: vogliamo accorgercene prima che diventi irreversibile?
Perché, come lo studio suggerisce con inquietante chiarezza, il primo passo della manipolazione efficace è far credere che non stia accadendo affatto. E quando il 70-90% delle persone manipolate pensa di essere stato aiutato, significa che quel primo passo è già compiuto.
Il tempo per una risposta collettiva non è infinito. Ma c’è ancora.