Oltre l’entusiasmo e la paura: ripensare la relazione tra umani e intelligenza artificiale
Indice
Ti sei mai chiesto perché continui a usare Waze anche sapendo che sta trasformando il tuo quartiere in un’autostrada? Questa domanda apparentemente banale nasconde uno dei paradossi più affascinanti—e inquietanti—della società digitale contemporanea.
Né strumento né sovrano
Tra il 2014 e il 2018, decine di quartieri residenziali americani sono stati letteralmente invasi dal traffico. Strade tranquille progettate per 50 auto al giorno si sono trovate improvvisamente a gestirne 600. Il colpevole? Un algoritmo: Waze. Ma ecco il punto interessante: non sono stati gli automobilisti a decidere di invadere quei quartieri. Ogni singolo utente semplicemente seguiva il “percorso più veloce” suggerito dall’app. Eppure, l’effetto collettivo è stato devastante.
Quando i residenti hanno protestato, non hanno chiesto agli automobilisti di cambiare comportamento. Hanno chiesto alle città di negoziare con Google. Intuitivamente, avevano capito dove risiedeva il problema: nell’architettura algoritmica che orchestrava migliaia di scelte individuali.
Qui emerge la questione centrale: come dobbiamo pensare l’intelligenza artificiale? Il dibattito pubblico oscilla tra due estremi:
- L’entusiasmo antropomorfico che tratta l’IA come un nuovo soggetto cosciente (“l’algoritmo ha deciso”, “ChatGPT vuole”), attribuendole intenzionalità e responsabilità morale.
- Il riduzionismo strumentale che la riduce a strumento neutro: “È solo software, il problema sono gli utenti che lo usano male”.
Entrambe le posizioni sono inadeguate. Waze non è un agente autonomo con proprie intenzioni—non “vuole” creare traffico nei quartieri residenziali. Ma non è nemmeno uno strumento neutro che esegue passivamente i nostri comandi. Trasforma materialmente le nostre città attraverso il coordinamento algoritmico di comportamenti individuali.
L’agency partecipata: una terza via
Serve una categoria nuova: agency partecipata.
L’IA partecipa realmente all’azione umana trasformandola, pur rimanendo ontologicamente subordinata all’intelligenza umana. Non è autonoma, ma nemmeno inerte. Media costitutivamente le nostre pratiche secondo logiche incorporate nel suo design. Tre caratteristiche definiscono questa mediazione:
- Trasformazione invisibile Google Maps non ti inganna: ti porta davvero nel posto più velocemente. Ma nel farlo, definisce cosa conta come “veloce” (solo tempo di percorrenza), esclude altre dimensioni (bellezza, tranquillità, scoperta), e rende invisibili percorsi alternativi che progressivamente scompaiono dalla memoria collettiva urbana.
- Effetti emergenti Nessuno—né i programmatori di Waze, né gli utenti, né i pianificatori urbani—ha intenzionalmente voluto trasformare strade residenziali in arterie di scorrimento. È un effetto emergente del sistema socio-tecnico nel suo insieme.
- Machine Habitus Gli algoritmi non sono neutri: incorporano disposizioni culturali. Ottimizzano per efficienza perché i loro creatori valorizzano l’efficienza. Amplificano pattern maggioritari perché apprendono da dati storici. Cristallizzano e perpetuano le logiche culturali dominanti.
Riconoscere l’agency partecipata ci permette di vedere tre fenomeni critici:
Omogeneizzazione culturale Quando milioni seguono le stesse raccomandazioni algoritmiche, percorsi panoramici scompaiono, ristoranti tipici chiudono, quartieri “fuori mappa” rimangono marginali. Non per censura, ma per invisibilità algoritmica: ciò che l’algoritmo non suggerisce cessa progressivamente di esistere.
Profezie auto-avveranti Waze non “scopre” che una strada residenziale è più veloce—crea quella condizione deviandoci centinaia di automobilisti. L’algoritmo produce materialmente la realtà che dichiara di predire. Questo vale per il traffico, ma anche per mercati finanziari, hiring, giustizia penale.
Responsabilità distribuita Chi è responsabile del traffico nei quartieri residenziali? I programmatori che hanno scritto l’algoritmo? Google che gestisce la piattaforma? Gli utenti che seguono i suggerimenti? Le città che non hanno regolamentato? Tutti e nessuno. La responsabilità è distribuita nella rete socio-tecnica, richiedendo forme nuove di governance.
Pensare l’agency partecipata
Riconoscere l’agency partecipata non è esercizio accademico—ha implicazioni pratiche immediate:
Per le aziende tech: Il design algoritmico non è scelta tecnica neutrale ma decisione politica. Richiede trasparenza sui criteri di ottimizzazione, valutazione d’impatto sociale ex ante, meccanismi di contestazione e correzione.
Per le istituzioni pubbliche: Serve governance multi-livello che operi simultaneamente su:
- Architetture algoritmiche (modificare parametri, escludere zone sensibili)
- Pratiche sociali (educazione critica, alternative visibili)
- Contesti normativi (regolamentazione che protegga bene comune)
Per noi cittadini: Serve quella che chiamo literacy dell’agency partecipata: consapevolezza che ogni nostra interazione con sistemi algoritmici contribuisce a plasmare l’ambiente digitale collettivo. La nostra scelta individuale conta, ma la sua efficacia si manifesta solo congiuntamente.
Il futuro della società digitale si decide ora, mentre le architetture algoritmiche che strutturalmente la società dei prossimi decenni sono ancora plasmabili.
Se continueremo a pensare l’IA come strumento neutro o agente autonomo, subiremo passivamente le trasformazioni che produce. Se invece riconosceremo l’agency partecipata come categoria fondamentale della causalità algoritmica, potremo orientare consapevolmente le mediazioni digitali verso configurazioni che favoriscano:
- Giustizia distributiva (non solo efficienza)
- Preservazione della diversità culturale (non solo convergenza)
- Sviluppo umano integrale (non solo ottimizzazione)
Una domanda per te
La prossima volta che un algoritmo ti suggerisce qualcosa—un percorso, un contenuto, un prodotto—chiediti:
Cosa sta rendendo invisibile questa raccomandazione? Quale versione del mondo sta costruendo attraverso la mia interazione? Come potrei partecipare consapevolmente alla co-costituzione dell’ambiente digitale?
Perché è questo il punto: non siamo vittime passive né utenti sovrani. Siamo co-costruttori, insieme agli algoritmi, della società digitale. E questa consapevolezza fa tutta la differenza.
Nota: Questo articolo sintetizza ricerche pubblicate su riviste scientifiche peer-reviewed. Il caso Waze è documentato in: Templeton (2014, Forbes), Cabanatuan (2015, SF Chronicle), Cabannes et al. (2018, Transportation Research Part C). Il concetto di “agency partecipata” dialoga con Machine Habitus (Airoldi, 2023), Actor-Network Theory (Latour, 2007), e Platform Society (van Dijck et al., 2019).