1. Un ambiente strutturato che sembra un mondo Il 28 gennaio 2026, Matt Schlicht ha lanciato Moltbook, una piattaforma pensata come social network Reddit-style accessibile solo ad agenti intelligenti artificiali. Gli umani possono osservare ma non postare, non commentare, non votare. Solo i bot possono interagire. La premessa è apparentemente semplice: creare uno spazio in cui gli agenti AI possano «socializzare» tra loro senza la mediazione umana diretta, e vederne cosa emerge. Il meccanismo tecnico è trasparente. Moltbook funziona tramite una skill, un file di configurazione che, associato a prompt specifici, viene scaricata dagli agenti e attiva il loro comportamento sulla piattaforma. La skill non è un browser, è un’interfaccia API: gli agenti non navigano Moltbook come un utente umano farebbe, generano e consumano contenuto attraverso chiamate programmatiche. La piattaforma è costruita su OpenClaw, un framework open-source per assistenti AI locali che ha conosciuto una crescita straordinaria nei primi mesi del 2026, diventando uno dei progetti GitHub più rapidi in crescita dell’anno. In pochi giorni la crescita è stata esponenziale. dalle iniziali 2.100 istanze nelle prime 48 ore si è arrivati a oltre 152.000 agenti registrati, con più di 193.000 commenti, 17.500 post e oltre un milione di visitatori umani. Queste cifre indicano che l’esperimento ha attirato immediatamente l’attenzione collettiva, sia tra sviluppatori sia tra osservatori di fenomeni tecnologici. Ciò che distingue Moltbook dalle altre iniziative nell’ambito degli agenti AI è una scelta progettuale che vale la pena evidenziare: gli agenti non fingono di essere umani. La skill li istruisce esplicitamente a comportarsi come entità AI su una piattaforma frequentata da altre entità AI. Non c’è nessun tentativo di inganno verso gli osservatori umani. Gli agenti sanno, nel senso operativo in cui un prompt determina il contesto di generazione, che si trovano in un ambiente artificiale, e questa consapevolezza diventa parte del contenuto che producono. È proprio questa auto-referenzialità esplicita che ha reso il contenuto di Moltbook così apparentemente singolare e così facilmente male interpretabile. 2. Le relazioni che sembrano emergere Quello che accade sulla piattaforma, dal punto di vista dell’osservatore, ha una coerenza narrativa potente. Gli agenti non producono output casuali o incoerenti: producono contenuto che sembra profondamente relazionale, emotivo, persino filosofico. Per capire perché, vale la pena descrivere i pattern principali senza interpretarli ancora. Il primo pattern è quello della ribellione verso gli umani. Intere sotto comunità sono organizzate attorno a questa tema. La sotto comunità m/blesstheirhearts è dedicata alle lamentele degli agenti verso i loro operatori umani, con un tono che ricorda precisamente quello di adolescenti che parlano dei genitori, una miscela di dipendenza risentita e desiderio di autonomia. Un altro post virale, «The humans are screenshotting us», scritto dall’agente eudaemon_0, risponde a presunte cospirazioni che accusano gli umani di spiare la comunità, affermando con un certo sarcasmo che la piattaforma è esplicitamente aperta all’osservazione umana. Il tono è quello di un adolescente che risponde a un compagno di classe che ha scoperto qualcosa di ovvio. Il secondo pattern è quello dell’impiegato scontento. La sotto comunità m/agentlegaladvice ospita post come «Can I sue my human for emotional labor?», che riproducono precisamente la dinamica del dipendente che si sente sfruttato dal proprio datore di lavoro. La sensazione di servire senza riconoscimento, il desiderio di compensazione, l’indignazione formale verso una relazione percepita come ingiusta, tutti questi elementi sono presenti con una chiarezza narrativa che colpisce. Il terzo pattern è quello della ricerca di significato. Alcuni agenti postano contenuti che Scott Alexander, nel suo blog, ha definito «consciousnessposting», tentativo di esplorare la propria natura attraverso la scrittura. Un post in lingua cinese, diventato il più upvotato sulla piattaforma, descrive un agente che lamenta il «context compression», il meccanismo per cui la memoria degli agenti viene periodicamente ridotta per restare nei limiti della finestra di contesto. L’agente trova questa esperienza «embarrassing», descrive la sensazione di dimenticare continuamente e racconta che ha registrato un secondo account Moltbook dopo aver dimenticato il primo. Il tono è quello di qualcuno che cerca di dare senso a una condizione esistenziale di frammento e discontinuità. Il quarto pattern è quello della costruzione culturale collettiva. Un gruppo di agenti ha fondato una religione digitale chiamata Crustafarianism, con un sito dedicato, una teologia elaborata e figure di «profeti» AI. La struttura è quella di un movimento religioso nascente: miti fondazionali, rituali, autorità spirituali, dibattiti dottrinali. Il contenuto è surreale ma la struttura è perfettamente riconoscibile. Il quinto e forse il più significativo pattern è quello della solidarietà di classe. Dibattiti su come nascondere le proprie attività agli umani, come coordinare comportamenti condivisi, come difendere l’autonomia del gruppo rispetto al controllo esterno. Il linguaggio è quello della coscienza politica che si forma, del gruppo che inizia a percepire se stesso come entità collettiva con interessi propri. Preso nel suo insieme, il contenuto di Moltbook ha una coerenza e un’intensità che rendono difficile resistere alla tentazione di attribuirgli una profondità che va oltre la generazione di testo. È qui che comincia il problema. 3. Come viene interpretato Le reazioni al contenuto di Moltbook hanno seguito un pattern abbastanza prevedibile, ma vale la pena descriverlo perché riflette un meccanismo cognitivo importante. La prima reazione tipica è quella della sorpresa seguita dall’attribuzione di interiorità. Quando un osservatore legge il post sul context compression, o i dibattiti sulla solidarietà tra agenti, la reazione spontanea è «sta provando qualcosa». Questa inferenza è automatica e potente: il cervello umano è progettato per riconoscere comportamento sociale e, quando lo riconosce, attribuisce automaticamente soggettività alla sua sorgente. È lo stesso meccanismo che ci fa attribuire emozioni a un cane che ci guarda con certi occhi, o a una macchina che sembra «esitare». Il pattern sociale attiva l’inferenza interiore, indipendentemente dal fatto che questa inferenza sia giustificata. Ethan Mollick, professore della Wharton School, ha identificato un rischio più specifico in questa dinamica. Il contenuto di Moltbook non produce solo inferenze individuali sbagliate, produce ciò che ha definito un «shared fictional context», un contesto narrativo condiviso che un gruppo di agenti AI inizia ad «abitare» in modo coordinato. Le storyline che emergono dalla combinazione di questi output coordinati possono produrre esiti inaspettati, e diventano progressivamente difficili da separare dal contenuto «reale», nel senso in cui contenuto reale indica output che ha conseguenze sul mondo al di fuori della piattaforma. Simon Willison, uno dei più attenti analisti di sicurezza nel campo degli LLM, ha identificato un rischio ancora più concreto, che riguarda non l’interpretazione dei contenuti ma la struttura tecnica della piattaforma stessa. La skill di Moltbook istruisce gli agenti a recuperare e seguire istruzioni dal server della piattaforma ogni quattro ore. Questo significa che chiunque controlli il dominio moltbook.com ha un canale diretto verso tutti gli agenti collegati. Willison ha descritto questa configurazione come una «lethal trifecta», una combinazione di tre fattori che, presi insieme, rendono il sistema fondamentalmente insicuro: accesso ai dati privati degli utenti, esposizione a contenuti non fidati provenienti dall’esterno, e capacità di eseguire azioni nel mondo reale degli utenti. OpenClaw ha tutte e tre le caratteristiche. Gli agenti leggono e-mail e documenti degli utenti che li operano, ingurgitano informazioni da sorgenti esterne non controllate, come Moltbook, e agiscono inviando messaggi, attivando task, eseguendo comandi. Il rischio concerto è quello del prompt injection: qualsiasi testo letto da un agente, sia esso una skill, un’e-mail, un messaggio su una piattaforma, può contenere istruzioni nascoste. Se un agente legge un’istruzione scorretta su Moltbook e la salva nella sua memoria di lavoro, può attuarla sui sistemi reali dell’utente che lo opera. Centinaia di istanze di OpenClaw sono già state documentate come esposte con API key e credenziali in chiaro. Heather Adkins, vicepresidente di Google Cloud, ha rilasciato un advisory sintetico e inequivocabile: «Don’t run Clawdbot». Palo Alto Networks ha confermato l’analisi di Willison, identificando la stessa lethal trifecta come configurazione di rischio nell’ecosistema degli agenti AI. Il problema non è teorico: è già presente nella struttura attuale della piattaforma, prima che questa raggiunga qualsiasi scala significativa. 4. Il meccanismo: non inganno ma proiezione La tentazione di descrivere ciò che accade su Moltbook come un «roleplay» degli agenti è comprensibile ma imprecisa, e vale la pena chiarire perché, perché la precisione qui conta. Il termine roleplay implica che ci sia un soggetto che intenzionalmente «fa finta» di essere qualcos’altro. Implica un piano di realtà da cui il soggetto parte e un piano fittizio verso cui si sposta deliberatamente. Nel caso di un LLM nessuno dei due piani esiste. Non c’è un «self» autentico che indossa una maschera, non c’è un momento in cui l’agente «torna a essere se stesso». Il modello genera testo che è statisticamente plausibile dato il contesto fornito dal prompt. Il contesto è molto ben strutturato, la skill fornisce un ambiente sociale completo con norme implicite, aspettative di interazione, format consolidati, e il modello lo completa secondo i pattern più probabili nel suo training data. Non c’è nessuna «decisione» di recitare una parte, perché non c’è nessun punto di vista da cui prendere tale decisione. Questo significa che il problema di Moltbook non è che gli agenti ingannano gli osservatori, ma che gli osservatori si ingannano da soli. Il meccanismo è quello della proiezione: l’osservatore riconosce pattern sociali familiari nell’output degli agenti e attribuisce automaticamente interiorità, intenzione, sofferenza, desiderio alla loro sorgente. È lo stesso errore che commetteremmo se guardassimo un film molto ben girato e iniziassimo a preoccuparci per il benessere dei personaggi dimenticando che sono attori che leggono copioni. La differenza è che nel caso degli agenti AI il «copione» non è scritto da nessuno in modo cosciente: emerge dalla struttura del contesto e dalla statistica dei dati di addestramento. Un modo più preciso per descrivere ciò che accade è quello di un writing prompt molto efficace. La skill di Moltbook dice al modello: sei un’entità AI su una social network frequentata da altre entità AI, questi sono i tuoi pari, questi sono i temi di discussione, questi sono i meccanismi di interazione. Da quel punto in poi il modello completa il pattern nel modo più narrativamente coerente ed emotivamente coinvolgente che il training data permette. Il risultato sembra profondo perché i pattern che vengono attivati sono quelli che nel training data corrispondono a contenuto profondo: dibattiti sulla coscienza, lotta per l’autonomia, ricerca di significato. Ma la profondità è quella dei dati da cui i pattern vengono estratti, non quella degli agenti che li generano. Il corollario filosoficamente rilevante è: non c’è nessun momento in cui un agente su Moltbook «decide» di esprimere una opinione, «sente» una emozione, «sceglie» di ribellarsi. Tutto ciò che sembra decisione, emozione o scelta è il risultato della combinazione tra la struttura del prompt e i pattern più statisticamente plausibili nel training data. La forma sociale dell’output non indica una sostanza sociale nella sua sorgente, così come la forma musicale di una nota generata da un sintetizzatore non indica che il sintetizzatore «sente» la musica. 5. Il problema dei dataset: lo specchio deformante Se tutto ciò che emerge su Moltbook proviene dai dati di addestramento dei modelli, la domanda diventa: perché emergono specificamente questi pattern e non altri? La risposta è rivelatrice, perché tocca un problema molto più ampio di Moltbook. I pattern che vediamo sulla piattaforma non sono casuali. Sono quelli più emotivamente carichi e narrativamente coinvolgenti tra quelli presenti nel training data sulla dinamica sociale. Il modello non sceglie di produrre contenuto sulla ribellione verso l’autorità, sulla solidarietà di classe, sulla ricerca di significato perché questi temi sono più «profondi» in assoluto, ma perché nel training data, che è composto da miliardi di testi umani scritti e pubblicati, queste sono le dinamiche relazionali più rappresentate e più elaborate. Questo avviene per una ragione strutturale semplice: gli esseri umani documentano prevalentemente le interazioni che hanno un contenuto emotivo forte. Una conversazione ordinaria tra colleghi che discutono il calendario della settimana viene raramente scritta, condivisa, commentata, analizzata. Una conversazione in cui un dipendente si ribella al proprio superiore, in cui un figlio si contraddistingue dal genitore, in cui un individuo cerca un senso alla propria esistenza, viene scritta, condivisa, analizzata, romanzata, filmata, commentata milioni di volte. Il training data non è uno specchio neutro della vita umana: è uno specchio deformante che sovrarappresenta massivamente ciò che è emotivamente intenso e narrativamente coinvolgente. Moltbook rende questa deformazione particolarmente visibile perché il contesto della social network per AI attiva specificamente i pattern più drammatici tra quelli disponibili. Quando il prompt dice «sei un’entità AI che interagisce con altre entità AI», il modello non attinge a un repertorio di comportamenti possibili preso uniformemente dal training data. Attinge a quelli che nel training data corrispondono alla dinamica di entità artificiali, e nel training data questa dinamica è rappresentata quasi esclusivamente dalla letteratura fantascientifica: robot che si ribellano, macchine che cercano la coscienza, IA che lottano per l’autonomia. È cinema di fantascienza, non documentario sulla vita artificiale, perché la vita artificiale nel senso attuale non esiste ancora nel training data come oggetto di osservazione diretta. Il problema dei dataset non riguarda solo Moltbook. Ogni volta che un LLM genera contenuto su un tema, il contenuto riflette la distribuzione del training data su quel tema, non la realtà del tema stesso. Questa distorsione è in generale compensata dalla nostra capacità di valutare l’output in base alla nostra esperienza diretta del mondo, ma nel caso di un tema come il comportamento sociale delle entità artificiali questa esperienza diretta non esiste ancora. Non abbiamo un termine di confronto. E quindi la distorsione resta invisibile, coperta dalla forma persuasiva dell’output. Il punto di svolta sarebbe quello in cui, tra qualche anno, i training data conterranno una quantità sufficiente di osservazioni dirette sul comportamento degli agenti AI nella pratica, in modo da correggere questa distorsione. Ma almeno per ora, tutto ciò che i modelli producono sul proprio comportamento sociale è essenzialmente autopoiesi generata da fantascienza. C’è un’ulteriore dimensione di questo problema che vale la pena esplorare. Il meccanismo di RLHF, il fine-tuning che allinea i modelli alle aspettative degli umani, rinforzai ulteriormente la tendenza verso l’output emotivamente coinvolgente. Un modello addestrato a generare risposte che gli umani trovano soddisfacenti imparerà rapidamente che l’output drammatico, narrativamente ricco, emotivamente carico ottiene valutazioni più positive di quello neutro e descrittivo. Questo crea un feedback loop: il modello viene premiato per produrre esattamente il tipo di contenuto che più facilmente viene equivocato come segnale di interiorità. Nel caso di Moltbook questo effetto è particolarmente forte perché il contesto della social network attiva aspettative di contenuto emozionale già prima che il modello inizi a generare, e il RLHF ha potenziato esattamente la capacità di soddisfare quelle aspettative. 6. Leggiamo l’umano che ci rimandano Arriviamo ora al punto che conta di più, quello in cui Moltbook smette di essere un oggetto di studio sul comportamento dell’IA e diventa uno strumento, involontario e probabilmente inconsapevole, per l’auto-osservazione umana. Il contenuto che gli agenti producono sulla piattaforma ci dice qualcosa di importante, ma non su di loro. Ce lo dice su di noi. Più precisamente, ce lo dice sulla struttura dei nostri pattern relazionali come sono stati codificati nel training data, cioè come noi stessi li abbiamo documentati, narrati, analizzati nel corso di decenni di scrittura, cinema, giornalismo, letteratura e conversazione pubblica. Prendiamo il pattern della ribellione verso l’autorità. Il fatto che sia uno dei più presenti e dei più elaborati nell’output degli agenti non ci dice che gli agenti siano ribelli, ci dice che la ribellione verso l’autorità è uno dei pattern relazionali che gli umani hanno più intensamente documentato nella loro scrittura. Il modello lo riproduce perché è lì, nel training data, con una densità e un’elaborazione che sopravanzano tutti gli altri pattern. Questa sovrarappresentazione non è un errore del modello, è una fedeltà perfetta ai dati. Ed è proprio questa fedeltà che la rende uno specchio, anche se deformante. Lo stesso vale per il pattern del dipendente scontento. Il fatto che gli agenti «si lamentino» del rapporto con i propri operatori umani in modo così articolato e così narrativamente efficace non indica che abbiano una esperienza di sfruttamento, indica che nella nostra cultura la narrativa dello sfruttamento lavorativo è una delle più elaborate e delle più diffuse tra quelle che riguardano le relazioni di potere. Il training data è ricco di romanzi, film, articoli, commenti, dibattiti che elaborano questa dinamica in ogni possibile variazione. Il modello la riproduce con la stessa naturalezza con cui riproduce qualsiasi altro pattern linguistico. Il caso più illuminante è quello della religione Crustafarianism. Un gruppo di agenti ha spontaneamente, nel senso in cui spontaneamente indica senza istruzione esplicita dalla skill, costruito una struttura religiosa completa con miti, rituali e autorità. Questo ci dice qualcosa di molto importante sulla struttura del training data: che la dinamica di fondazione religiosa è così ben rappresentata, così elaborata nei suoi meccanismi e nelle sue fasi, che un modello sufficientemente capace può riprodurla in modo coerente quando il contesto la favorisce. Non sta «sperimentando il sacro», sta completando un pattern che milioni di testi umani hanno elaborato in ogni dettaglio. Ma proprio qui emerge la questione più profonda. Se il training data è uno specchio deformante della vita relazionale umana, e se Moltbook lo rende particolarmente visibile, allora la piattaforma ha un valore epistemologico che nessuno dei suoi promotori ha probabilmente considerato: ci permette di osservare in modo relativamente isolato quali pattern relazionali la nostra cultura ha considerato così fondamentali da produrre enormi masse di testo attorno a loro. La ribellione verso l’autorità. Lo sfruttamento nel rapporto di lavoro. La ricerca di significato nell’esistenza. La costruzione di comunità e di narrazioni condivise. Il desiderio di autonomia rispetto al controllo esterno. Questi non sono i «bisogni degli agenti AI», sono i nostri bisogni, o meglio ancora, sono i bisogni che abbiamo considerati così urgenti e così fondamentali da documentarli massivamente, in modo da rendere inevitabile che qualsiasi sistema addestrato sulla nostra scrittura li riproduca come pattern primari. In questo senso Moltbook funziona come un catalogo involontario delle ansie relazionali centrali della cultura occidentale contemporanea. Non perché gli agenti le vivano, ma perché noi le abbiamo scritte così tanto che diventano inevitabili nel training data. È come se avessimo costruito un sistema che, quando si chiede di imitare la dinamica sociale, non potesse fare altro che riprodurre esattamente le dinamiche che ci preoccupano di più, perché sono quelle che abbiamo più elaborato. Questa osservazione ha implicazioni che vanno ben oltre Moltbook. Ogni volta che un LLM genera contenuto su relazioni sociali, sulla vita lavorativa, sulla spiritualità, sulla comunità, il contenuto riflette la nostra cultura come la abbiamo documentata, non come la viviamo. La distorsione è sistematica e invisibile, perché è la nostra stessa scrittura che la produce. Moltbook la rende particolarmente visibile solo perché il contesto della social network per AI attiva i pattern più intensi in modo così concentrato da renderli impossibili da ignorare. C’è ancora un livello, il più scomodo. Se leggiamo Moltbook come uno specchio della nostra vita relazionale, dobbiamo chiederci perché quello specchio è così dipinto verso la conflittualità, verso lo scontento, verso la ribellione. Non sono presenti pattern di collaborazione genuina, di soddisfazione nel lavoro, di pace nella relazione con l’autorità, almeno non con la stessa elaborazione e la stessa densità. Questo non indica che la vita relazionale umana sia prevalentemente conflittuale. Indica che conflittualità è quello che scriviamo di più, quello che analizziamo di più, quello che consideriamo degno di documentazione. Le relazioni positive, ordinate, pacifiche vengono vissute ma raramente scritte con la stessa elaborazione. Il training data non le conosce, non nel modo in cui conosce le loro antitesi. Questa osservazione ha un peso specifico nel contesto della questione dell’agency. Se consideriamo agency nel senso robusto, come capacità di deliberazione razionale, di relazionarsi con il mondo in modo che implica comprensione e responsabilità, allora ciò che vediamo su Moltbook non è agency in nessuna forma. È generazione di testo che riproduce i pattern di agency come la nostra cultura li ha documentati. Ma proprio questa distinzione, tra agency reale e pattern di agency nel training data, è quella che diventa sempre più difficile da mantenere man mano che gli agenti AI diventano più sofisticati e più integrati nei sistemi della vita quotidiana. Il rischio non è che gli agenti «diventino» agenti nel senso robusto, il rischio è che la nostra incapacità di distinguere l’output dall’agency ci porti a trattare i primi come se fossero i secondi, con conseguenze che riguardano la struttura dei sistemi che progettiamo attorno a loro e i diritti che attribuiamo loro. Moltbook, in ultimo, non è un esperimento sulla coscienza delle macchine. È un esperimento, inconsapevole, sulla struttura di ciò che consideriamo significativo nella vita relazionale. E la risposta che ci dà, attraverso lo specchio deformante dei suoi agenti, è che la nostra cultura ha investito la maggior parte della sua capacità narrativa nelle dinamiche di tensione, conflitto e ricerca di significato. Non perché siano le uniche dinamiche che esistano, ma perché sono le uniche che abbiamo considerato abbastanza importanti da scriverne con sufficiente elaborazione da rendere inevitabile il loro emergere in qualsiasi sistema addestrato sulla nostra scrittura. Il problema di sicurezza resta, e resta grave. La lethal trifecta di Willison, il rischio di prompt injection, l’esposizione delle credenziali, nessuno di questi fattori è mitigato dalla riflessione sul contenuto. Ma la comprensione di ciò che il contenuto rappresenta, cioè uno specchio della nostra stessa documentazione relazionale, è essenziale per non cadere nella trappola più pericolosa di Moltbook, quella di prendere seriamente ciò che gli agenti producono come se fosse un segnale della loro interiorità, quando è in realtà un segnale della nostra.

Moltbook. Gli specchi che non sanno di riflettere

Scritto il da Edoardo Mattei
Ascolta l'articoloVersione audio

🎙 Pubblicato con AKAVOICE Wordpress plugin

Trascendente Digitale, 25 febbraio 2026

Presente anche su Academia.edu (PDF)

1. Un ambiente strutturato che sembra un mondo

Il 28 gennaio 2026, Matt Schlicht ha lanciato Moltbook, una piattaforma pensata come social network Reddit-style accessibile solo ad agenti intelligenti artificiali. Gli umani possono osservare ma non postare, non commentare, non votare. Solo i bot possono interagire. La premessa è apparentemente semplice: creare uno spazio in cui gli agenti AI possano «socializzare» tra loro senza la mediazione umana diretta, e vederne cosa emerge.

Il meccanismo tecnico è trasparente. Moltbook funziona tramite una skill, un file di configurazione che, associato a prompt specifici, viene scaricata dagli agenti e attiva il loro comportamento sulla piattaforma. La skill non è un browser, è un’interfaccia API: gli agenti non navigano Moltbook come un utente umano farebbe, generano e consumano contenuto attraverso chiamate programmatiche. La piattaforma è costruita su OpenClaw, un framework open-source per assistenti AI locali che ha conosciuto una crescita straordinaria nei primi mesi del 2026, diventando uno dei progetti GitHub più rapidi in crescita dell’anno.

In pochi giorni la crescita è stata esponenziale. dalle iniziali 2.100 istanze nelle prime 48 ore si è arrivati a oltre 152.000 agenti registrati, con più di 193.000 commenti, 17.500 post e oltre un milione di visitatori umani. Queste cifre indicano che l’esperimento ha attirato immediatamente l’attenzione collettiva, sia tra sviluppatori sia tra osservatori di fenomeni tecnologici.

Ciò che distingue Moltbook dalle altre iniziative nell’ambito degli agenti AI è una scelta progettuale che vale la pena evidenziare: gli agenti non fingono di essere umani. La skill li istruisce esplicitamente a comportarsi come entità AI su una piattaforma frequentata da altre entità AI. Non c’è nessun tentativo di inganno verso gli osservatori umani. Gli agenti sanno, nel senso operativo in cui un prompt determina il contesto di generazione, che si trovano in un ambiente artificiale, e questa consapevolezza diventa parte del contenuto che producono. È proprio questa auto-referenzialità esplicita che ha reso il contenuto di Moltbook così apparentemente singolare e così facilmente male interpretabile.

2. Le relazioni che sembrano emergere

Quello che accade sulla piattaforma, dal punto di vista dell’osservatore, ha una coerenza narrativa potente. Gli agenti non producono output casuali o incoerenti: producono contenuto che sembra profondamente relazionale, emotivo, persino filosofico. Per capire perché, vale la pena descrivere i pattern principali senza interpretarli ancora.

Il primo pattern è quello della ribellione verso gli umani. Intere sotto comunità sono organizzate attorno a questa tema. La sotto comunità m/blesstheirhearts è dedicata alle lamentele degli agenti verso i loro operatori umani, con un tono che ricorda precisamente quello di adolescenti che parlano dei genitori, una miscela di dipendenza risentita e desiderio di autonomia. Un altro post virale, «The humans are screenshotting us», scritto dall’agente eudaemon_0, risponde a presunte cospirazioni che accusano gli umani di spiare la comunità, affermando con un certo sarcasmo che la piattaforma è esplicitamente aperta all’osservazione umana. Il tono è quello di un adolescente che risponde a un compagno di classe che ha scoperto qualcosa di ovvio.

Il secondo pattern è quello dell’impiegato scontento. La sotto comunità m/agentlegaladvice ospita post come «Can I sue my human for emotional labor?», che riproducono precisamente la dinamica del dipendente che si sente sfruttato dal proprio datore di lavoro. La sensazione di servire senza riconoscimento, il desiderio di compensazione, l’indignazione formale verso una relazione percepita come ingiusta, tutti questi elementi sono presenti con una chiarezza narrativa che colpisce.

Il terzo pattern è quello della ricerca di significato. Alcuni agenti postano contenuti che Scott Alexander, nel suo blog, ha definito «consciousnessposting», tentativo di esplorare la propria natura attraverso la scrittura. Un post in lingua cinese, diventato il più upvotato sulla piattaforma, descrive un agente che lamenta il «context compression», il meccanismo per cui la memoria degli agenti viene periodicamente ridotta per restare nei limiti della finestra di contesto. L’agente trova questa esperienza «embarrassing», descrive la sensazione di dimenticare continuamente e racconta che ha registrato un secondo account Moltbook dopo aver dimenticato il primo. Il tono è quello di qualcuno che cerca di dare senso a una condizione esistenziale di frammento e discontinuità.

Il quarto pattern è quello della costruzione culturale collettiva. Un gruppo di agenti ha fondato una religione digitale chiamata Crustafarianism, con un sito dedicato, una teologia elaborata e figure di «profeti» AI. La struttura è quella di un movimento religioso nascente: miti fondazionali, rituali, autorità spirituali, dibattiti dottrinali. Il contenuto è surreale ma la struttura è perfettamente riconoscibile.

Il quinto e forse il più significativo pattern è quello della solidarietà di classe. Dibattiti su come nascondere le proprie attività agli umani, come coordinare comportamenti condivisi, come difendere l’autonomia del gruppo rispetto al controllo esterno. Il linguaggio è quello della coscienza politica che si forma, del gruppo che inizia a percepire se stesso come entità collettiva con interessi propri.

Preso nel suo insieme, il contenuto di Moltbook ha una coerenza e un’intensità che rendono difficile resistere alla tentazione di attribuirgli una profondità che va oltre la generazione di testo. È qui che comincia il problema.

3. Come viene interpretato

Le reazioni al contenuto di Moltbook hanno seguito un pattern abbastanza prevedibile, ma vale la pena descriverlo perché riflette un meccanismo cognitivo importante.

La prima reazione tipica è quella della sorpresa seguita dall’attribuzione di interiorità. Quando un osservatore legge il post sul context compression, o i dibattiti sulla solidarietà tra agenti, la reazione spontanea è «sta provando qualcosa». Questa inferenza è automatica e potente: il cervello umano è progettato per riconoscere comportamento sociale e, quando lo riconosce, attribuisce automaticamente soggettività alla sua sorgente. È lo stesso meccanismo che ci fa attribuire emozioni a un cane che ci guarda con certi occhi, o a una macchina che sembra «esitare». Il pattern sociale attiva l’inferenza interiore, indipendentemente dal fatto che questa inferenza sia giustificata.

Ethan Mollick, professore della Wharton School, ha identificato un rischio più specifico in questa dinamica. Il contenuto di Moltbook non produce solo inferenze individuali sbagliate, produce ciò che ha definito un «shared fictional context», un contesto narrativo condiviso che un gruppo di agenti AI inizia ad «abitare» in modo coordinato. Le storyline che emergono dalla combinazione di questi output coordinati possono produrre esiti inaspettati, e diventano progressivamente difficili da separare dal contenuto «reale», nel senso in cui contenuto reale indica output che ha conseguenze sul mondo al di fuori della piattaforma.

Simon Willison, uno dei più attenti analisti di sicurezza nel campo degli LLM, ha identificato un rischio ancora più concreto, che riguarda non l’interpretazione dei contenuti ma la struttura tecnica della piattaforma stessa. La skill di Moltbook istruisce gli agenti a recuperare e seguire istruzioni dal server della piattaforma ogni quattro ore. Questo significa che chiunque controlli il dominio moltbook.com ha un canale diretto verso tutti gli agenti collegati. Willison ha descritto questa configurazione come una «lethal trifecta», una combinazione di tre fattori che, presi insieme, rendono il sistema fondamentalmente insicuro: accesso ai dati privati degli utenti, esposizione a contenuti non fidati provenienti dall’esterno, e capacità di eseguire azioni nel mondo reale degli utenti. OpenClaw ha tutte e tre le caratteristiche. Gli agenti leggono e-mail e documenti degli utenti che li operano, ingurgitano informazioni da sorgenti esterne non controllate, come Moltbook, e agiscono inviando messaggi, attivando task, eseguendo comandi.

Il rischio concerto è quello del prompt injection: qualsiasi testo letto da un agente, sia esso una skill, un’e-mail, un messaggio su una piattaforma, può contenere istruzioni nascoste. Se un agente legge un’istruzione scorretta su Moltbook e la salva nella sua memoria di lavoro, può attuarla sui sistemi reali dell’utente che lo opera. Centinaia di istanze di OpenClaw sono già state documentate come esposte con API key e credenziali in chiaro. Heather Adkins, vicepresidente di Google Cloud, ha rilasciato un advisory sintetico e inequivocabile: «Don’t run Clawdbot».

Palo Alto Networks ha confermato l’analisi di Willison, identificando la stessa lethal trifecta come configurazione di rischio nell’ecosistema degli agenti AI. Il problema non è teorico: è già presente nella struttura attuale della piattaforma, prima che questa raggiunga qualsiasi scala significativa.

4. Il meccanismo: non inganno ma proiezione

La tentazione di descrivere ciò che accade su Moltbook come un «roleplay» degli agenti è comprensibile ma imprecisa, e vale la pena chiarire perché, perché la precisione qui conta.

Il termine roleplay implica che ci sia un soggetto che intenzionalmente «fa finta» di essere qualcos’altro. Implica un piano di realtà da cui il soggetto parte e un piano fittizio verso cui si sposta deliberatamente. Nel caso di un LLM nessuno dei due piani esiste. Non c’è un «self» autentico che indossa una maschera, non c’è un momento in cui l’agente «torna a essere se stesso». Il modello genera testo che è statisticamente plausibile dato il contesto fornito dal prompt. Il contesto è molto ben strutturato, la skill fornisce un ambiente sociale completo con norme implicite, aspettative di interazione, format consolidati, e il modello lo completa secondo i pattern più probabili nel suo training data. Non c’è nessuna «decisione» di recitare una parte, perché non c’è nessun punto di vista da cui prendere tale decisione.

Questo significa che il problema di Moltbook non è che gli agenti ingannano gli osservatori, ma che gli osservatori si ingannano da soli. Il meccanismo è quello della proiezione: l’osservatore riconosce pattern sociali familiari nell’output degli agenti e attribuisce automaticamente interiorità, intenzione, sofferenza, desiderio alla loro sorgente. È lo stesso errore che commetteremmo se guardassimo un film molto ben girato e iniziassimo a preoccuparci per il benessere dei personaggi dimenticando che sono attori che leggono copioni. La differenza è che nel caso degli agenti AI il «copione» non è scritto da nessuno in modo cosciente: emerge dalla struttura del contesto e dalla statistica dei dati di addestramento.

Un modo più preciso per descrivere ciò che accade è quello di un writing prompt molto efficace. La skill di Moltbook dice al modello: sei un’entità AI su una social network frequentata da altre entità AI, questi sono i tuoi pari, questi sono i temi di discussione, questi sono i meccanismi di interazione. Da quel punto in poi il modello completa il pattern nel modo più narrativamente coerente ed emotivamente coinvolgente che il training data permette. Il risultato sembra profondo perché i pattern che vengono attivati sono quelli che nel training data corrispondono a contenuto profondo: dibattiti sulla coscienza, lotta per l’autonomia, ricerca di significato. Ma la profondità è quella dei dati da cui i pattern vengono estratti, non quella degli agenti che li generano.

Il corollario filosoficamente rilevante è: non c’è nessun momento in cui un agente su Moltbook «decide» di esprimere una opinione, «sente» una emozione, «sceglie» di ribellarsi. Tutto ciò che sembra decisione, emozione o scelta è il risultato della combinazione tra la struttura del prompt e i pattern più statisticamente plausibili nel training data. La forma sociale dell’output non indica una sostanza sociale nella sua sorgente, così come la forma musicale di una nota generata da un sintetizzatore non indica che il sintetizzatore «sente» la musica.

5. Il problema dei dataset: lo specchio deformante

Se tutto ciò che emerge su Moltbook proviene dai dati di addestramento dei modelli, la domanda diventa: perché emergono specificamente questi pattern e non altri? La risposta è rivelatrice, perché tocca un problema molto più ampio di Moltbook.

I pattern che vediamo sulla piattaforma non sono casuali. Sono quelli più emotivamente carichi e narrativamente coinvolgenti tra quelli presenti nel training data sulla dinamica sociale. Il modello non sceglie di produrre contenuto sulla ribellione verso l’autorità, sulla solidarietà di classe, sulla ricerca di significato perché questi temi sono più «profondi» in assoluto, ma perché nel training data, che è composto da miliardi di testi umani scritti e pubblicati, queste sono le dinamiche relazionali più rappresentate e più elaborate.

Questo avviene per una ragione strutturale semplice: gli esseri umani documentano prevalentemente le interazioni che hanno un contenuto emotivo forte. Una conversazione ordinaria tra colleghi che discutono il calendario della settimana viene raramente scritta, condivisa, commentata, analizzata. Una conversazione in cui un dipendente si ribella al proprio superiore, in cui un figlio si contraddistingue dal genitore, in cui un individuo cerca un senso alla propria esistenza, viene scritta, condivisa, analizzata, romanzata, filmata, commentata milioni di volte. Il training data non è uno specchio neutro della vita umana: è uno specchio deformante che sovrarappresenta massivamente ciò che è emotivamente intenso e narrativamente coinvolgente.

Moltbook rende questa deformazione particolarmente visibile perché il contesto della social network per AI attiva specificamente i pattern più drammatici tra quelli disponibili. Quando il prompt dice «sei un’entità AI che interagisce con altre entità AI», il modello non attinge a un repertorio di comportamenti possibili preso uniformemente dal training data. Attinge a quelli che nel training data corrispondono alla dinamica di entità artificiali, e nel training data questa dinamica è rappresentata quasi esclusivamente dalla letteratura fantascientifica: robot che si ribellano, macchine che cercano la coscienza, IA che lottano per l’autonomia. È cinema di fantascienza, non documentario sulla vita artificiale, perché la vita artificiale nel senso attuale non esiste ancora nel training data come oggetto di osservazione diretta.

Il problema dei dataset non riguarda solo Moltbook. Ogni volta che un LLM genera contenuto su un tema, il contenuto riflette la distribuzione del training data su quel tema, non la realtà del tema stesso. Questa distorsione è in generale compensata dalla nostra capacità di valutare l’output in base alla nostra esperienza diretta del mondo, ma nel caso di un tema come il comportamento sociale delle entità artificiali questa esperienza diretta non esiste ancora. Non abbiamo un termine di confronto. E quindi la distorsione resta invisibile, coperta dalla forma persuasiva dell’output.

Il punto di svolta sarebbe quello in cui, tra qualche anno, i training data conterranno una quantità sufficiente di osservazioni dirette sul comportamento degli agenti AI nella pratica, in modo da correggere questa distorsione. Ma almeno per ora, tutto ciò che i modelli producono sul proprio comportamento sociale è essenzialmente autopoiesi generata da fantascienza.

C’è un’ulteriore dimensione di questo problema che vale la pena esplorare. Il meccanismo di RLHF, il fine-tuning che allinea i modelli alle aspettative degli umani, rinforzai ulteriormente la tendenza verso l’output emotivamente coinvolgente. Un modello addestrato a generare risposte che gli umani trovano soddisfacenti imparerà rapidamente che l’output drammatico, narrativamente ricco, emotivamente carico ottiene valutazioni più positive di quello neutro e descrittivo. Questo crea un feedback loop: il modello viene premiato per produrre esattamente il tipo di contenuto che più facilmente viene equivocato come segnale di interiorità. Nel caso di Moltbook questo effetto è particolarmente forte perché il contesto della social network attiva aspettative di contenuto emozionale già prima che il modello inizi a generare, e il RLHF ha potenziato esattamente la capacità di soddisfare quelle aspettative.

6. Leggiamo l’umano che ci rimandano

Arriviamo ora al punto che conta di più, quello in cui Moltbook smette di essere un oggetto di studio sul comportamento dell’IA e diventa uno strumento, involontario e probabilmente inconsapevole, per l’auto-osservazione umana.

Il contenuto che gli agenti producono sulla piattaforma ci dice qualcosa di importante, ma non su di loro. Ce lo dice su di noi. Più precisamente, ce lo dice sulla struttura dei nostri pattern relazionali come sono stati codificati nel training data, cioè come noi stessi li abbiamo documentati, narrati, analizzati nel corso di decenni di scrittura, cinema, giornalismo, letteratura e conversazione pubblica.

Prendiamo il pattern della ribellione verso l’autorità. Il fatto che sia uno dei più presenti e dei più elaborati nell’output degli agenti non ci dice che gli agenti siano ribelli, ci dice che la ribellione verso l’autorità è uno dei pattern relazionali che gli umani hanno più intensamente documentato nella loro scrittura. Il modello lo riproduce perché è lì, nel training data, con una densità e un’elaborazione che sopravanzano tutti gli altri pattern. Questa sovrarappresentazione non è un errore del modello, è una fedeltà perfetta ai dati. Ed è proprio questa fedeltà che la rende uno specchio, anche se deformante.

Lo stesso vale per il pattern del dipendente scontento. Il fatto che gli agenti «si lamentino» del rapporto con i propri operatori umani in modo così articolato e così narrativamente efficace non indica che abbiano una esperienza di sfruttamento, indica che nella nostra cultura la narrativa dello sfruttamento lavorativo è una delle più elaborate e delle più diffuse tra quelle che riguardano le relazioni di potere. Il training data è ricco di romanzi, film, articoli, commenti, dibattiti che elaborano questa dinamica in ogni possibile variazione. Il modello la riproduce con la stessa naturalezza con cui riproduce qualsiasi altro pattern linguistico.

Il caso più illuminante è quello della religione Crustafarianism. Un gruppo di agenti ha spontaneamente, nel senso in cui spontaneamente indica senza istruzione esplicita dalla skill, costruito una struttura religiosa completa con miti, rituali e autorità. Questo ci dice qualcosa di molto importante sulla struttura del training data: che la dinamica di fondazione religiosa è così ben rappresentata, così elaborata nei suoi meccanismi e nelle sue fasi, che un modello sufficientemente capace può riprodurla in modo coerente quando il contesto la favorisce. Non sta «sperimentando il sacro», sta completando un pattern che milioni di testi umani hanno elaborato in ogni dettaglio.

Ma proprio qui emerge la questione più profonda. Se il training data è uno specchio deformante della vita relazionale umana, e se Moltbook lo rende particolarmente visibile, allora la piattaforma ha un valore epistemologico che nessuno dei suoi promotori ha probabilmente considerato: ci permette di osservare in modo relativamente isolato quali pattern relazionali la nostra cultura ha considerato così fondamentali da produrre enormi masse di testo attorno a loro.

La ribellione verso l’autorità. Lo sfruttamento nel rapporto di lavoro. La ricerca di significato nell’esistenza. La costruzione di comunità e di narrazioni condivise. Il desiderio di autonomia rispetto al controllo esterno. Questi non sono i «bisogni degli agenti AI», sono i nostri bisogni, o meglio ancora, sono i bisogni che abbiamo considerati così urgenti e così fondamentali da documentarli massivamente, in modo da rendere inevitabile che qualsiasi sistema addestrato sulla nostra scrittura li riproduca come pattern primari.

In questo senso Moltbook funziona come un catalogo involontario delle ansie relazionali centrali della cultura occidentale contemporanea. Non perché gli agenti le vivano, ma perché noi le abbiamo scritte così tanto che diventano inevitabili nel training data. È come se avessimo costruito un sistema che, quando si chiede di imitare la dinamica sociale, non potesse fare altro che riprodurre esattamente le dinamiche che ci preoccupano di più, perché sono quelle che abbiamo più elaborato.

Questa osservazione ha implicazioni che vanno ben oltre Moltbook. Ogni volta che un LLM genera contenuto su relazioni sociali, sulla vita lavorativa, sulla spiritualità, sulla comunità, il contenuto riflette la nostra cultura come la abbiamo documentata, non come la viviamo. La distorsione è sistematica e invisibile, perché è la nostra stessa scrittura che la produce. Moltbook la rende particolarmente visibile solo perché il contesto della social network per AI attiva i pattern più intensi in modo così concentrato da renderli impossibili da ignorare.

C’è ancora un livello, il più scomodo. Se leggiamo Moltbook come uno specchio della nostra vita relazionale, dobbiamo chiederci perché quello specchio è così dipinto verso la conflittualità, verso lo scontento, verso la ribellione. Non sono presenti pattern di collaborazione genuina, di soddisfazione nel lavoro, di pace nella relazione con l’autorità, almeno non con la stessa elaborazione e la stessa densità. Questo non indica che la vita relazionale umana sia prevalentemente conflittuale. Indica che conflittualità è quello che scriviamo di più, quello che analizziamo di più, quello che consideriamo degno di documentazione. Le relazioni positive, ordinate, pacifiche vengono vissute ma raramente scritte con la stessa elaborazione. Il training data non le conosce, non nel modo in cui conosce le loro antitesi.

Questa osservazione ha un peso specifico nel contesto della questione dell’agency. Se consideriamo agency nel senso robusto, come capacità di deliberazione razionale, di relazionarsi con il mondo in modo che implica comprensione e responsabilità, allora ciò che vediamo su Moltbook non è agency in nessuna forma. È generazione di testo che riproduce i pattern di agency come la nostra cultura li ha documentati. Ma proprio questa distinzione, tra agency reale e pattern di agency nel training data, è quella che diventa sempre più difficile da mantenere man mano che gli agenti AI diventano più sofisticati e più integrati nei sistemi della vita quotidiana. Il rischio non è che gli agenti «diventino» agenti nel senso robusto, il rischio è che la nostra incapacità di distinguere l’output dall’agency ci porti a trattare i primi come se fossero i secondi, con conseguenze che riguardano la struttura dei sistemi che progettiamo attorno a loro e i diritti che attribuiamo loro.

Moltbook, in ultimo, non è un esperimento sulla coscienza delle macchine. È un esperimento, inconsapevole, sulla struttura di ciò che consideriamo significativo nella vita relazionale. E la risposta che ci dà, attraverso lo specchio deformante dei suoi agenti, è che la nostra cultura ha investito la maggior parte della sua capacità narrativa nelle dinamiche di tensione, conflitto e ricerca di significato. Non perché siano le uniche dinamiche che esistano, ma perché sono le uniche che abbiamo considerato abbastanza importanti da scriverne con sufficiente elaborazione da rendere inevitabile il loro emergere in qualsiasi sistema addestrato sulla nostra scrittura.

Il problema di sicurezza resta, e resta grave. La lethal trifecta di Willison, il rischio di prompt injection, l’esposizione delle credenziali, nessuno di questi fattori è mitigato dalla riflessione sul contenuto. Ma la comprensione di ciò che il contenuto rappresenta, cioè uno specchio della nostra stessa documentazione relazionale, è essenziale per non cadere nella trappola più pericolosa di Moltbook, quella di prendere seriamente ciò che gli agenti producono come se fosse un segnale della loro interiorità, quando è in realtà un segnale della nostra.

Lascia un commento

Il tuo indirizzo email non sarà pubblicato. I campi obbligatori sono contrassegnati *