System 0 è un modello potente ma ambiguo: tra descrizione, norma e metafora, solleva questioni aperte su agency, estensione cognitiva e responsabilità
Ho letto con interesse il paper di Chiriatti e colleghi su System 0. L’idea di concettualizzare l’integrazione tra intelligenza artificiale e cognizione umana attraverso un framework che dialoga con Kahneman è intuitiva e comunicativamente potente. Tuttavia, dopo diverse letture, rimangono alcuni dubbi che vorrei condividere, nella speranza che possano contribuire a chiarire meglio la proposta.
La mia prima difficoltà riguarda lo statuto della proposta. A pagina 2 leggo che “System 0 refers to this emergent algorithmic layer”, con un linguaggio che sembra descrivere qualcosa di già esistente. Nell’abstract però si parla di “we introduce System 0”, come se fosse un nuovo costrutto teorico. E verso la conclusione emerge una dimensione più prescrittiva, legata al design responsabile. Mi chiedo: System 0 è una scoperta empirica, una lente interpretativa, o un progetto normativo? Forse tutte e tre le cose insieme, ma in questo caso vorrei capire meglio come si articolano questi livelli.
Un secondo punto che non mi è chiaro riguarda il significato del “0”. Capisco che System 0 “shapes information prior to engagement” con gli altri sistemi (p.3), ma questa precedenza è solo temporale o ha una valenza più profonda? Se è solo temporale (l’algoritmo filtra prima che io elabori coscientemente) allora mi sembra che qualsiasi fonte informazionale potrebbe ambire a un numero progressivo. Se invece ha una precedenza ontologica, cioè costituisce le condizioni stesse del mio pensiero, servirebbe un’argomentazione più articolata. Mi colpisce anche che in Tabella 1 si parli di “bidirectional feedback loop”, il che sembra complicare l’idea di semplice precedenza unidirezionale.
Sul rapporto con la Extended Mind Theory ho qualche perplessità. Gli autori dichiarano di voler “extend and deepen” Clark e Chalmers, ma mi sembra che il contributo principale sia l’applicazione di quella teoria all’AI contemporanea. La Tabella 1 mostra che l’AI soddisfa i criteri di Heersmink, ma molti di quei criteri (“reliability”, “durability”) valgono anche per strumenti più tradizionali. Forse mi sfugge: qual è esattamente il salto concettuale che giustifica parlare di un framework nuovo piuttosto che di un’applicazione ben fatta di uno esistente?
Mi interrogo poi sul concetto di “sistema psicologico”. Quando Kahneman parla di sistemi, si riferisce a modalità di elaborazione interna alla mente, con tutti i correlati fenomenologici e neurali. System 0 è invece “composed of algorithmic mechanisms” (p.3). Non voglio fare questioni terminologiche sterili, ma mi chiedo: cosa significa chiamare “psicologico” qualcosa di algoritmico ed esterno? Gli stessi autori riconoscono che System 0 “remains semantically dependent” sui sistemi 1 e 2. Se non ha capacità semantica autonoma, in che senso è un sistema cognitivo completo piuttosto che uno strumento molto sofisticato?
Sul tema della responsabilità apprezzo molto che gli autori riconoscano il problema e propongano sette framework operativi per affrontarlo. Tuttavia, mi chiedo se questi framework, per quanto utili nella pratica, risolvano davvero la questione teorica dell’agency. Prendiamo “Agentic Transparency and Control” (p.8): si richiede che gli utenti possano “understand, calibrate, and revoke” l’influenza dell’AI. Ma come si operazionalizza questa comprensione quando parliamo di sistemi con miliardi di parametri? Cosa vuol dire concretamente “calibrated trust”? Non ho risposte, ma sento che qui c’è un nodo teorico che rimane da sciogliere.
Infine, la sezione 3.3 sul paradosso mi lascia perplesso. Gli autori riconoscono onestamente che l’AI può amplificare bias, creare echo chambers, degradare il pensiero critico. Ma questo viene presentato come una tensione da gestire attraverso un buon design. Mi chiedo però: se System 0 sistematicamente distorce i processi cognitivi (come suggeriscono gli studi citati), possiamo ancora parlare di “estensione” cognitiva nel senso di Clark e Chalmers? La Extended Mind Theory presume che l’estensione preservi o potenzi le capacità. Se invece le degrada, forse dovremmo ripensare il framework teorico più radicalmente?
Vorrei sottolineare che queste perplessità non tolgono valore al lavoro di sensibilizzazione che il paper fa benissimo. Come metafora per comunicare il potere trasformativo dell’AI, System 0 funziona. I miei dubbi riguardano più la tenuta filosofica del framework come contributo alla teoria della mente e all’etica della tecnologia. Forse gli autori hanno risposte a queste domande che a me sfuggono, e sarei davvero interessato a un approfondimento