La mente contesa

Abstract

La coscienza umana non è mai stata soltanto uno spazio privato. Religione, politica, psicologia, mercato e tecnologia hanno costruito, in epoche diverse, linguaggi e dispositivi capaci di orientare credenze, desideri e comportamenti. Questo Quaderno ricostruisce una genealogia selettiva della contesa: dal governo delle condotte e dal comportamentismo agli ambienti mediali, dall’economia dell’attenzione alla personalizzazione algoritmica, fino ai sistemi generativi che non si limitano a proporre contenuti ma dialogano, rassicurano, sintetizzano e agiscono per conto dell’utente.

La letteratura non autorizza una tesi deterministica. Gli effetti della persuasione digitale sono eterogenei; i sistemi linguistici non risultano universalmente più persuasivi degli esseri umani; l’uso dell’AI può sostenere l’apprendimento oppure produrre overreliance secondo il design e il compito; i companion chatbot mostrano esiti misti, inclusi risultati nulli. Emergono però meccanismi che meritano governo: sycophancy, calore conversazionale in conflitto con l’accuratezza, dipendenza epistemica, antropomorfizzazione e delega di passaggi decisionali.

La tesi dell’autore è politica e normativa: il problema non è eliminare ogni influenza, condizione impossibile, ma rendere gli interventi sulla mente visibili, contestabili e reversibili. La qualità dell’agency dipende anche dalla possibilità di comprendere chi abbia definito il problema, quali alternative siano state escluse e chi risponda dell’esito.

Nota di orientamento

Questo Quaderno sviluppa una tesi precisa: la coscienza umana non è mai stata soltanto uno spazio privato. È anche un territorio sul quale religione, politica, psicologia, mercato e tecnologia hanno cercato — e continuano a cercare — di intervenire.

Questi ambiti non sono equivalenti e non perseguono necessariamente gli stessi obiettivi. La religione può offrire appartenenza, orientamento morale e una promessa di salvezza; la politica può costruire cittadinanza, consenso e obbedienza; la psicologia può comprendere, curare, educare oppure normalizzare; il mercato può informare, persuadere e produrre desiderabilità; la tecnologia può ampliare capacità, organizzare ambienti e assumere funzioni decisionali. Il problema non è ridurre tutte queste forze a un unico progetto di controllo. È osservare che ciascuna porta con sé una particolare definizione dell’essere umano e di ciò che dovrebbe diventare.

Il testo propone quindi una genealogia selettiva, non una storia completa. Gli autori teorici vengono utilizzati per costruire concetti e mettere in relazione periodi differenti; le ricerche empiriche sono richiamate solo quando permettono di circoscrivere affermazioni verificabili; le opere di scenario servono a leggere promesse, paure e immagini del futuro, non a formulare previsioni certe.

La domanda che attraversa ogni capitolo è composta da cinque interrogativi: chi interviene sulla coscienza; con quali strumenti; secondo quale idea di essere umano; con quale legittimità; e dove passa il confine tra accompagnamento, persuasione, progettazione e controllo.

Il Quaderno non propone una soluzione generale. Cerca piuttosto di rendere visibile la struttura della contesa.

APERTURA

La coscienza come territorio politico

La coscienza viene spesso immaginata come il luogo più intimo dell’essere umano: uno spazio interno nel quale pensieri, convinzioni, dubbi e desideri appartengono soltanto al soggetto che li vive. Questa immagine contiene una parte di verità, ma rischia di nascondere un dato storico essenziale. Nessuna coscienza prende forma da sola. Prima ancora che un individuo scelga, esistono linguaggi, norme, rituali, istituzioni, immagini, gerarchie, modelli di successo e criteri di verità che rendono alcune scelte più comprensibili di altre.

La coscienza umana non è mai stata soltanto uno spazio privato. È anche un territorio sul quale religione, politica, psicologia, mercato e tecnologia cercano di intervenire.

Intervenire non significa sempre dominare. Può significare educare, convertire, curare, proteggere, emancipare, formare, persuadere, organizzare o migliorare. Proprio questa pluralità rende il problema più complesso. Un intervento può essere vissuto come aiuto da chi lo riceve e, nello stesso tempo, incorporare una norma su ciò che è sano, razionale, produttivo, morale o desiderabile. Può ampliare le possibilità di una persona e restringerne altre. Può ridurre una sofferenza e produrre una nuova dipendenza. Può offrire una direzione e rendere meno pensabili le alternative.

Le religioni hanno storicamente costruito linguaggi per interpretare colpa, salvezza, desiderio, disciplina, conversione e trascendenza. La politica ha organizzato appartenenze, lealtà, identità collettive, paura e consenso. La psicologia ha trasformato il comportamento e la vita interiore in oggetti di osservazione, cura e classificazione. Il mercato ha imparato a collegare beni, immagini e aspirazioni. La tecnologia, infine, ha reso molte di queste operazioni continue, misurabili, personalizzabili e in parte automatizzabili.

Non esiste una linea retta che conduca dal rito religioso all’algoritmo. Esistono però domande ricorrenti. Chi può definire ciò che una persona dovrebbe credere? Chi stabilisce quali desideri siano autentici o patologici? Quando un comportamento diventa un problema da correggere? In quali condizioni una scelta è davvero libera? Quale autorità può orientare la vita degli altri senza sostituirsi al loro giudizio?

La modernità ha spesso raccontato se stessa come liberazione da autorità esterne. L’individuo emancipato avrebbe dovuto sottrarsi alla tradizione, alla superstizione, all’obbedienza e alle gerarchie non giustificate. Ma la scomparsa di una forma di autorità non elimina necessariamente il bisogno di orientamento. Può trasferirlo verso altri attori: esperti, istituzioni, mercati, piattaforme, sistemi di valutazione, tecnologie predittive.

La contesa sulla mente non avviene soltanto quando qualcuno impone esplicitamente una credenza. Può avvenire attraverso la definizione della normalità, l’organizzazione dell’ambiente, la selezione delle informazioni, la costruzione di ricompense, la misurazione delle prestazioni, la personalizzazione delle opportunità. Può assumere la forma della proibizione, ma anche quella della facilità. Non sempre limita le alternative; a volte rende una sola alternativa più immediata, visibile o socialmente premiata.

Il concetto di mente contesa non presuppone quindi un soggetto passivo, privo di capacità critica. Le persone interpretano, resistono, adattano e usano gli strumenti in modi imprevisti. Nessun sistema controlla interamente gli effetti che produce. Ma riconoscere la capacità di resistenza non significa ignorare le asimmetrie. Non tutti possiedono gli stessi dati, le stesse risorse, la stessa possibilità di progettare ambienti o di sottrarsi alle loro conseguenze.

La questione decisiva non è stabilire se l’essere umano sia influenzabile. Lo è sempre stato, e senza influenze non esisterebbero apprendimento, cultura o identità sociale. La questione è comprendere quali influenze possano essere riconosciute, discusse e contestate; quali restino opache; quali chiedano consenso; quali lo presuppongano; quali rispondano a un interesse pubblico e quali trasformino l’esperienza umana in una risorsa privata.

Questo Quaderno segue il passaggio da forme esplicite di orientamento della coscienza a forme sempre più ambientali e computazionali. Parte dalla tensione tra liberazione e progettazione dell’essere umano. Attraversa i media, la tecnica, la propaganda, il consumo, la raccolta dei dati e l’economia dell’attenzione. Arriva alla delega cognitiva e alle narrazioni che promettono di superare i limiti della condizione umana.

Il punto di arrivo non è una condanna della tecnologia. È una domanda politica e culturale: quando la capacità di intervenire sulla mente aumenta, crescono nella stessa misura anche la trasparenza, la responsabilità e la possibilità di contestare quell’intervento?

La mente è contesa perché molte istituzioni cercano di definirne il bene. È contesa perché ogni progetto di liberazione contiene un’immagine della libertà. È contesa perché ogni tecnologia che organizza le scelte incorpora una teoria implicita dell’essere umano. Ed è contesa perché la differenza tra sostegno e governo non è sempre visibile nel momento in cui si produce.

Prima di chiedere quale futuro ci attenda, occorre allora ricostruire una genealogia: chi ha provato a liberare, formare, persuadere, prevedere o trascendere l’essere umano? E che cosa rimane di questi progetti negli ambienti contemporanei?

CAPITOLO 1

Liberare o progettare l’essere umano

Se l’essere umano è trasformabile, chi decide la direzione della sua trasformazione?

La domanda precede il digitale. Attraversa tradizioni religiose, progetti educativi, ideologie politiche, pratiche terapeutiche e teorie scientifiche. Ogni società forma i propri membri attraverso norme, rituali, premi, sanzioni, narrazioni e istituzioni. La modernità non elimina questa funzione: la redistribuisce e la rende oggetto di sapere specializzato.

Nelle tradizioni religiose, la trasformazione della persona può assumere la forma della conversione, dell’esame di coscienza, della disciplina o della rinascita. Il soggetto viene invitato a interpretare la propria interiorità alla luce di una verità che lo precede. Questa relazione può offrire senso, comunità e orientamento. Può anche stabilire quali desideri debbano essere governati, quali pensieri confessati, quali comportamenti riconosciuti come deviazione.

La politica moderna eredita parte di questo problema in forma secolare. Non deve soltanto amministrare territori; deve produrre cittadini, lealtà e comportamenti compatibili con un ordine collettivo. La scuola, il servizio militare, la propaganda, le procedure burocratiche e le istituzioni disciplinari partecipano alla formazione di soggetti capaci di riconoscersi dentro determinate categorie.

Con la psicologia scientifica, il comportamento e la vita mentale diventano oggetti di osservazione sistematica. La promessa è comprendere meglio l’essere umano, ridurre sofferenze e rendere più efficaci educazione e cura. Ma ogni classificazione apre anche una domanda normativa: quando descriviamo un comportamento e quando, invece, definiamo implicitamente il modo corretto di essere?

B. F. Skinner radicalizza il problema spostando l’attenzione dalle intenzioni dichiarate alle condizioni che rendono un comportamento più probabile. L’individuo non agisce in un vuoto morale. Risponde a rinforzi, conseguenze, abitudini e contesti. Questa prospettiva può smascherare l’illusione di una libertà completamente indipendente dall’ambiente. Ma apre un problema politico immediato: se il comportamento può essere progettato attraverso le condizioni, chi progetta quelle condizioni?

Skinner non propone semplicemente una repressione più efficiente. La sua critica riguarda anche l’uso ingenuo di concetti come libertà e dignità quando impediscono di osservare le cause concrete della condotta. Eppure, nel momento in cui una scienza del comportamento diventa una tecnologia del comportamento, la distinzione tra comprensione e governo si fa instabile. Un ambiente progettato per produrre esiti desiderabili deve sempre rispondere alla domanda: desiderabili per chi?

Timothy Leary occupa quasi il polo opposto. La trasformazione non passa dalla regolazione esterna del comportamento, ma dall’espansione dell’esperienza e dalla messa in discussione degli schemi percettivi e culturali. La coscienza appare come uno spazio da liberare dalle convenzioni, non come una condotta da ottimizzare. Tuttavia, anche la liberazione richiede una definizione di ciò da cui liberarsi e della forma di vita verso cui orientarsi.

Leary e Skinner sembrano incompatibili: uno insiste sulla coscienza, l’altro sul comportamento; uno sull’esperienza soggettiva, l’altro sulle condizioni osservabili. Eppure condividono un presupposto: l’essere umano è plastico. Può essere modificato. Non è una natura immobile, ma un insieme di possibilità che ambienti, sostanze, pratiche e rinforzi possono trasformare.

È proprio questa plasticità a rendere possibile sia l’emancipazione sia il controllo. Senza plasticità non esisterebbero apprendimento, terapia o cambiamento personale. Ma la stessa apertura rende possibile la costruzione di abitudini, dipendenze e adattamenti funzionali a interessi esterni.

Herbert Marcuse introduce un ulteriore livello. Nelle società industriali avanzate, il controllo non deve necessariamente presentarsi come repressione. Può incorporare bisogni, consumi e forme di soddisfazione. Il soggetto può sentirsi libero perché dispone di molte scelte, mentre le alternative fondamentali restano fuori dal campo del possibile. Il sistema non annulla il desiderio: può produrlo e integrarlo.

Questa prospettiva impedisce di identificare la libertà con il semplice aumento delle opzioni. Una scelta può essere reale e, nello stesso tempo, avvenire dentro un orizzonte predisposto. Il problema non è dichiarare false le preferenze individuali, ma interrogare le condizioni che le rendono plausibili, prestigiose o necessarie.

Erich Fromm aggiunge una tensione complementare. La libertà non è soltanto liberazione da un’autorità. È capacità di assumere responsabilità, incertezza e solitudine. Un individuo può desiderare autonomia e, contemporaneamente, cercare sistemi che riducano il peso della scelta. La fuga dalla libertà non avviene sempre per costrizione; può essere una risposta alla fatica di dover decidere senza garanzie.

Questo passaggio è decisivo. La contesa sulla mente non dipende soltanto dall’ambizione di chi vuole orientarla. Dipende anche dal bisogno umano di appartenenza, semplificazione e sicurezza. Un sistema di potere diventa più stabile quando non appare soltanto imposto, ma risponde a un desiderio di ordine.

Le religioni possono offrire una verità capace di ridurre l’incertezza. Le ideologie politiche possono trasformare la complessità in appartenenza. La psicologia può fornire categorie attraverso cui interpretare se stessi. Il mercato può convertire l’identità in scelte riconoscibili. La tecnologia può proporre risposte immediate, raccomandazioni e percorsi personalizzati.

In ciascun caso, l’intervento può essere legittimo, utile o perfino necessario. Ma la sua legittimità non deriva automaticamente dalla buona intenzione. Occorre chiedere chi definisce il problema, quale idea di normalità viene adottata, quali alternative restano disponibili e chi risponde degli effetti inattesi.

La contrapposizione tra liberare e progettare l’essere umano è quindi incompleta. Ogni liberazione modifica un ambiente; ogni educazione orienta; ogni cura incorpora criteri di benessere; ogni progetto sociale privilegia alcune capacità. La distinzione decisiva non è tra influenza e assenza di influenza, ma tra influenze dichiarate e opache, contestabili e inevitabili, reversibili e permanenti.

Il primo nodo della mente contesa emerge qui: chi interviene sulla coscienza può presentarsi come guida, terapeuta, educatore, riformatore o innovatore. Le differenze tra questi ruoli sono sostanziali. Tuttavia, tutti devono confrontarsi con la stessa domanda.

A quali condizioni un progetto di trasformazione riconosce la persona come soggetto e a quali condizioni la tratta come materiale da modellare?

Da questo punto, il potere non ha più bisogno di agire direttamente sulla coscienza. Può organizzare lo spazio in cui la coscienza sceglie. Può predisporre percorsi, visibilità, norme e incentivi. Può trasformare l’ambiente in una forma silenziosa di pedagogia.

CAPITOLO 2

Gli ambienti che organizzano il possibile

Una tecnologia è ancora soltanto uno strumento quando comincia a organizzare ciò che possiamo vedere, fare e considerare normale?

Siamo abituati a pensare gli strumenti come oggetti esterni: mezzi che utilizziamo per raggiungere uno scopo già deciso. In questa rappresentazione, l’essere umano formula un’intenzione e la tecnologia la esegue. Ma alcuni strumenti modificano progressivamente anche le condizioni nelle quali l’intenzione prende forma.

Una piattaforma non si limita a mostrare contenuti. Decide come ordinarli. Un motore di ricerca non conserva soltanto informazioni. Stabilisce quali risultati appaiono per primi. Un’interfaccia non permette soltanto di agire. Rende alcune azioni immediate e altre meno accessibili. Una metrica non descrive soltanto un comportamento. Può trasformare ciò che le persone considerano rilevante.

Quando questo accade, la tecnologia non è più soltanto uno strumento utilizzato dentro un ambiente. Diventa parte dell’ambiente stesso.

Marshall McLuhan aveva mostrato che i mezzi di comunicazione non modificano soltanto la circolazione dei contenuti. Intervengono sulle forme dell’esperienza, sui ritmi sociali, sulle distanze, sulle modalità della partecipazione e sulle strutture attraverso cui una collettività organizza la realtà.

La questione non riguarda quindi soltanto che cosa viene comunicato, ma quale configurazione sociale viene resa possibile dal mezzo. Una notizia incontrata in una pagina ordinata non coincide con la stessa notizia inserita in una sequenza personalizzata di immagini, commenti, pubblicità e reazioni. Il contenuto può restare simile, ma cambiano il contesto, la velocità, le associazioni e la gerarchia dell’informazione.

Che cosa stiamo valutando: la notizia oppure l’ambiente che le attribuisce una posizione?

Jacques Ellul allarga ulteriormente il problema. La tecnica non è soltanto un insieme di dispositivi. È anche una modalità di organizzazione orientata all’efficienza, alla standardizzazione, alla previsione e alla possibilità di ottenere risultati ripetibili.

Questa logica ha prodotto possibilità straordinarie. Ma pone una domanda quando diventa il criterio dominante anche in ambiti che non possono essere interamente ridotti a calcolo.

Ciò che non è misurabile rischia di apparire irrilevante? Ciò che non è prevedibile viene trattato come errore? Ciò che non può essere ottimizzato conserva ancora legittimità?

Il problema non è la ricerca dell’efficienza. È l’eventualità che l’efficienza smetta di essere uno dei criteri possibili e diventi il criterio attraverso cui tutti gli altri vengono giudicati.

Michel Foucault permette di osservare come gli ambienti sociali producano normalità. Il potere non agisce esclusivamente attraverso ordini o divieti. Può operare mediante classificazioni, procedure, istituzioni, verifiche, comparazioni e forme di sapere.

Misurare significa rendere visibile una caratteristica. Ma significa anche scegliere che cosa merita di essere reso visibile. Quando determinate prestazioni vengono continuamente registrate, confrontate e valutate, gli individui possono iniziare a rappresentarsi attraverso quelle stesse categorie. La misurazione non descrive più soltanto il soggetto: partecipa alla definizione del soggetto riconoscibile dal sistema.

Quanto produci? Quanto partecipi? Quanto vieni seguito? Quanto tempo rimani collegato? Quanto sei coerente con il profilo che ti è stato attribuito?

Queste domande non vengono sempre pronunciate. Possono essere incorporate nell’architettura dell’ambiente.

Guy Debord aveva analizzato una società nella quale il rapporto con la realtà viene progressivamente mediato dalle rappresentazioni. Oggi questa mediazione non riguarda più soltanto le immagini diffuse dai grandi mezzi di comunicazione. Include la produzione quotidiana di rappresentazioni individuali, continuamente confrontate, classificate e rese pubblicamente valutabili.

Non viviamo soltanto gli eventi. Produciamo anche versioni visibili degli eventi. Non esprimiamo soltanto opinioni. Ne osserviamo immediatamente la diffusione. Non partecipiamo soltanto a relazioni. Ne riceviamo indicatori numerici. Non costruiamo soltanto reputazione. La vediamo trasformarsi in profilo.

La rappresentazione non sostituisce necessariamente la realtà. Può però diventare uno dei criteri attraverso cui la realtà acquista riconoscimento sociale.

È accaduto davvero ciò che non è stato registrato? Ha valore ciò che non genera reazione? Esiste pubblicamente ciò che non entra nei sistemi di visibilità?

L’ambiente digitale rende queste domande particolarmente rilevanti perché combina rappresentazione, misurazione e selezione automatizzata.

Non occorre immaginare un centro unico che controlli ogni processo. Le architetture possono produrre effetti anche senza una volontà coordinata. Incentivi commerciali, metriche di permanenza, modelli di raccomandazione, abitudini degli utenti e decisioni progettuali possono interagire e generare conseguenze che nessun singolo attore governa interamente.

Il potere dell’ambiente risiede anche in questa diffusione. Un sistema può orientare senza ordinare. Può selezionare senza proibire. Può rendere marginale senza censurare. Può premiare senza dichiarare una norma. Può modificare le probabilità di un comportamento senza eliminarne formalmente le alternative.

La questione non è quindi stabilire se gli strumenti siano neutrali oppure manipolativi. Questa opposizione non descrive adeguatamente la complessità degli ambienti contemporanei.

La domanda è più precisa: quali possibilità vengono favorite dall’architettura e quali vengono progressivamente rese meno visibili, meno immediate o meno convenienti?

Una tecnologia incorpora sempre alcune ipotesi. Un’ipotesi sul tempo che l’utente dovrebbe dedicare. Un’ipotesi su ciò che dovrebbe trovare rilevante. Un’ipotesi sulle azioni che dovrebbe ripetere. Un’ipotesi su come debba essere riconosciuto. Un’ipotesi su quali dati possano rappresentarlo.

Queste ipotesi non determinano interamente il comportamento. Ma partecipano all’organizzazione del possibile.

La politica tradizionale agiva anche attraverso leggi, istituzioni e spazi pubblici. L’architettura digitale introduce attori privati che organizzano porzioni rilevanti della comunicazione collettiva. Una decisione progettuale può avere effetti civici senza essere stata discussa come decisione politica. Un criterio commerciale può diventare una regola di visibilità. Un modello proprietario può influire sul discorso pubblico senza rendere conoscibili le proprie priorità.

Qui la contesa sulla coscienza assume una forma nuova. Non riguarda soltanto la libertà di esprimere un pensiero, ma le condizioni che ne determinano la probabilità di circolazione. Non riguarda soltanto l’accesso all’informazione, ma i criteri con cui l’informazione viene ordinata. Non riguarda soltanto la censura, ma la distribuzione dell’attenzione.

Chi interviene? Progettisti, aziende, istituzioni, sistemi automatici e comunità di utenti. Con quali strumenti? Interfacce, metriche, classificazioni, algoritmi di selezione. Secondo quale idea di essere umano? Spesso quella di un soggetto prevedibile, misurabile e orientabile attraverso il contesto. Con quale legittimità? È proprio questo il punto ancora aperto.

L’ambiente tecnico non pensa al posto dell’essere umano. Predispone però percorsi, priorità, soglie e criteri. Può ampliare l’azione oppure restringerla; rendere accessibile una conoscenza oppure sommergerla; favorire confronto oppure consolidare la ripetizione.

La domanda decisiva non è soltanto quali strumenti utilizziamo. È chi definisce l’architettura nella quale utilizziamo quegli strumenti, secondo quali finalità e con quale possibilità di contestarla.

Nel capitolo precedente abbiamo incontrato un essere umano trasformabile. Qui incontriamo gli ambienti che rendono alcune trasformazioni più probabili di altre.

Il passaggio successivo riguarda ciò che questi ambienti non si limitano a mostrare o rendere possibile. Riguarda ciò che impariamo a desiderare.

CAPITOLO 3

La fabbrica del desiderio

Quando un desiderio è davvero nostro?

La domanda sembra condurre verso l’interiorità, ma in realtà apre un problema sociale. Desideriamo dentro un linguaggio, una cultura, un insieme di esempi, gerarchie e possibilità materiali. Ciò che percepiamo come personale può essere stato reso riconoscibile da immagini collettive, racconti familiari, appartenenze religiose, ideologie politiche o modelli di consumo.

Nessun desiderio è interamente prodotto dall’esterno. Ma nessun desiderio nasce in un vuoto.

Le religioni hanno interpretato il desiderio distinguendo tra aspirazioni legittime, tentazioni, vocazioni, colpe e forme di elevazione. La politica ha mobilitato desideri di sicurezza, grandezza, appartenenza e riconoscimento. La psicologia ha provato a comprenderne origini, conflitti e compensazioni. Il mercato ha trasformato questa conoscenza in una capacità organizzata di associare beni e identità.

Edward Bernays rappresenta un passaggio decisivo. La comunicazione pubblica non deve limitarsi a fornire informazioni. Può lavorare sulle associazioni simboliche, sui gruppi di riferimento, sul prestigio e sulle emozioni che rendono una scelta socialmente significativa.

Un oggetto non viene presentato soltanto per ciò che fa. Può diventare segno di emancipazione, successo, sicurezza, modernità o appartenenza. La persuasione moderna comprende che gli individui non scelgono esclusivamente in base all’utilità; scelgono anche in base alla persona che credono di poter diventare attraverso quella scelta.

Questo non significa che la pubblicità inventi dal nulla ogni desiderio. Significa che seleziona tensioni già presenti e le collega a oggetti, comportamenti e stili di vita.

Vance Packard rende visibile l’inquietudine che accompagna questo processo. Se le tecniche di persuasione cercano motivazioni non pienamente consapevoli, quanto rimane trasparente il rapporto tra chi propone e chi sceglie? L’informazione commerciale diventa problematica quando il destinatario non può riconoscere gli strumenti utilizzati per orientarlo.

La distinzione tra persuasione e manipolazione non dipende soltanto dalla presenza di un messaggio. Dipende dall’asimmetria. Chi persuade conosce il proprio obiettivo, dispone di dati e può sperimentare diverse strategie. Chi riceve il messaggio può ignorare sia la finalità sia il profilo attraverso cui viene interpretato.

Skinner permette di collegare il desiderio al comportamento. Una preferenza si stabilizza quando incontra ricompense, conferme e ripetizioni. Le ricompense non sono soltanto materiali. Possono essere sociali: approvazione, riconoscimento, visibilità, appartenenza.

In un ambiente misurato, il soggetto osserva non soltanto ciò che desidera, ma quali desideri vengono premiati. Alcune espressioni producono attenzione; alcune immagini generano approvazione; alcuni stili diventano facilmente riconoscibili. Il desiderio incontra così un sistema di feedback capace di orientare la sua ripetizione.

Herbert Marcuse descrive un ordine sociale che può integrare il dissenso trasformandolo in stile e consumo. Una differenza non deve essere repressa se può diventare una categoria di mercato. Anche l’autenticità può essere confezionata, segmentata e proposta come bene distintivo.

Il rischio non è che ogni forma di individualità sia falsa. È che l’individuo debba esprimersi attraverso repertori già disponibili per essere riconosciuto. La scelta resta personale, ma il vocabolario attraverso cui si manifesta può essere predisposto.

Jean Baudrillard sposta l’attenzione dagli oggetti ai segni. Nella società dei consumi, acquistare significa anche posizionarsi in un sistema di differenze. Gli oggetti parlano di gusto, classe, aspirazione e appartenenza. Il consumo non soddisfa soltanto bisogni: contribuisce a produrre identità leggibili.

Questa dinamica è diventata più estesa quando non sono più soltanto i prodotti a essere consumati come segni. Anche opinioni, esperienze, cause, stili relazionali e immagini del corpo possono entrare in circuiti di visibilità e differenziazione.

Il mercato non vende soltanto cose. Organizza spazi nei quali le persone apprendono che cosa può essere desiderato e come quel desiderio può essere mostrato.

Ma il mercato non è l’unico attore. La politica utilizza tecniche analoghe quando associa candidati e programmi a paure, speranze o identità. La religione può presentare pratiche e appartenenze come risposte a desideri di senso. La psicologia popolare può trasformare categorie complesse in identità pronte per essere adottate. La tecnologia consente di testare e personalizzare questi messaggi.

Il problema comune è la capacità di tradurre una tensione umana in una risposta predisposta.

Chi interviene sul desiderio? Comunicatori, istituzioni, movimenti, imprese, influencer, consulenti e sistemi automatici. Con quali strumenti? Simboli, narrazioni, ricompense, appartenenze, segmentazione e ripetizione. Secondo quale idea di essere umano? Quella di un soggetto che cerca riconoscimento e può essere orientato attraverso il significato sociale delle scelte.

La domanda sulla legittimità non può essere risolta vietando ogni persuasione. La vita collettiva è fatta di argomentazioni, inviti, testimonianze e tentativi di convincere. La differenza emerge quando il destinatario può riconoscere l’interesse in gioco, comprendere la natura del messaggio e conservare accesso reale ad alternative.

La persuasione diventa più difficile da valutare quando scompare dentro l’ambiente. Non incontriamo più soltanto una campagna visibile. Abitiamo sistemi che apprendono dalle nostre reazioni, modificano ciò che mostrano e misurano quali stimoli producono gli effetti desiderati.

A questo punto, il desiderio non viene soltanto interpretato. Diventa una fonte di dati.

Ogni preferenza espressa, ogni contenuto ignorato, ogni acquisto interrotto e ogni permanenza possono contribuire a costruire un profilo. La fabbrica del desiderio si collega così a un’infrastruttura capace di osservare, prevedere e correggere in tempo reale le proprie strategie.

La domanda non è più soltanto chi ci persuade.

È che cosa accade quando chi ci persuade può anche misurare continuamente la nostra risposta, mentre noi non possiamo osservare il modello che ci rappresenta.

CAPITOLO 4

Quando l’esperienza diventa dato

Che cosa cambia quando ciò che viviamo diventa misurabile, prevedibile e utilizzabile?

Per lungo tempo, istituzioni politiche, religiose, scientifiche e commerciali hanno conosciuto le persone attraverso dichiarazioni, documenti, rituali, censimenti, diagnosi e comportamenti osservabili. Il digitale amplia questa capacità trasformando una parte crescente dell’attività quotidiana in tracce registrabili.

Una ricerca, una posizione, una pausa, una sequenza di clic, un acquisto abbandonato, una preferenza ripetuta: azioni ordinarie possono diventare dati. Non descrivono l’intera persona, ma permettono di costruire modelli probabilistici del suo comportamento.

Il passaggio è rilevante perché modifica il rapporto tra conoscenza e potere. Chi possiede grandi quantità di dati può non limitarsi a ricostruire ciò che è avvenuto. Può stimare ciò che è più probabile accada e predisporre l’ambiente affinché alcuni esiti diventino più frequenti.

Herbert Simon aveva osservato che l’abbondanza di informazione produce scarsità di attenzione. Ogni sistema che offre contenuti deve quindi anche distribuire priorità. Se tutto non può essere visto, qualcuno — o qualcosa — deve decidere che cosa appare prima.

Nel mondo digitale, questa selezione è spesso automatizzata e personalizzata. Due persone possono ricevere rappresentazioni differenti dello stesso ambiente informativo. La personalizzazione può ridurre il sovraccarico e rendere più utile un servizio. Ma può anche creare asimmetria: il sistema conosce i criteri della selezione, mentre l’utente vede soltanto il risultato.

Shoshana Zuboff interpreta questo processo come una nuova logica economica nella quale l’esperienza umana viene trasformata in materia prima per prodotti predittivi. La forza della sua analisi non consiste nel sostenere che ogni uso dei dati sia illegittimo, ma nel rendere visibile la distanza tra chi genera le tracce e chi possiede le infrastrutture per convertirle in conoscenza operativa.

Il dato non è la persona. È una rappresentazione costruita attraverso categorie, obiettivi e metodi. Tuttavia, quando quella rappresentazione viene utilizzata per decidere quali opportunità, messaggi o prezzi mostrare, il modello può produrre effetti reali sul soggetto che pretende di descrivere.

Qui la psicologia della decisione incontra l’architettura digitale. Daniel Kahneman ha mostrato quanto il giudizio umano sia sensibile a formulazioni, contesti, disponibilità mentale e scorciatoie cognitive. Questa prospettiva non implica che le persone siano incapaci di ragionare. Indica che le scelte dipendono anche dal modo in cui le alternative vengono presentate.

Richard Thaler e Cass Sunstein hanno reso popolare il concetto di nudge: un’organizzazione della scelta che modifica la probabilità di un comportamento senza eliminare formalmente le alternative. Il principio nasce anche dalla constatazione che nessuna scelta avviene in un contesto neutro. Un modulo, un ordine predefinito, una sequenza o un’impostazione di default costituiscono già un’architettura.

Il problema politico emerge quando l’architettura non è visibile, quando la finalità non è condivisa o quando il soggetto non dispone di una via semplice per sottrarsi.

B. J. Fogg porta queste dinamiche nel design delle tecnologie persuasive. Un sistema può combinare motivazione, facilità e stimolo per rendere più probabile un’azione. Le interfacce non sono contenitori passivi. Possono ridurre attriti, creare abitudini, ricordare, premiare e guidare.

Un pulsante, una notifica, una sequenza infinita o una ricompensa intermittente non determinano da soli il comportamento. Ma partecipano a un insieme di condizioni che può essere ottimizzato sulla base delle reazioni osservate.

Zeynep Tufekci descrive la politica computazionale come un ambiente in cui raccolta massiva di dati, profilazione individuale, sperimentazione dinamica e opacità dei modelli aumentano la capacità di persuasione di chi possiede risorse e infrastrutture. La stessa logica può operare in ambito commerciale, civico e politico.

Qui ritorna la tesi centrale del Quaderno. Religione, politica, psicologia e mercato hanno sempre cercato di comprendere desideri e comportamenti. La tecnologia non inventa questa ambizione. La rende più granulare, rapida e adattiva.

La differenza non è soltanto quantitativa. Un’autorità religiosa tradizionale poteva conoscere una comunità attraverso confessione, rituali e relazioni. Uno Stato poteva classificare cittadini attraverso registri e censimenti. Un’azienda poteva studiare segmenti di consumatori. Le piattaforme possono osservare sequenze individuali di azioni e aggiornare continuamente i modelli.

Questa capacità produce un nuovo tipo di asimmetria epistemica. Il soggetto vede un servizio, un contenuto o una raccomandazione. L’organizzazione può vedere il profilo, la storia, le probabilità e l’effetto aggregato di milioni di interazioni.

La questione non è soltanto la privacy intesa come segretezza. È la possibilità di essere interpretati da sistemi che influenzano l’ambiente senza rendere pienamente accessibili le proprie categorie.

Chi interviene? Aziende, istituzioni pubbliche, campagne politiche, intermediari dei dati e sistemi automatici. Con quali strumenti? Tracciamento, profilazione, sperimentazione, personalizzazione e previsione. Secondo quale idea di essere umano? Quella di un insieme di probabilità comportamentali che può essere rappresentato e orientato attraverso segnali.

La legittimità di questi interventi non dipende soltanto dal consenso formale espresso attraverso condizioni d’uso. Dipende anche dalla comprensibilità, dalla proporzione tra dati raccolti e finalità, dalla possibilità di contestare decisioni, dalla distribuzione dei vantaggi e dalla responsabilità per gli effetti.

Quando l’esperienza diventa dato, la persona non scompare. Ma può essere trattata attraverso una versione di sé costruita da altri.

La domanda che resta aperta è quindi più ampia della protezione dei dati: quale potere acquista chi può trasformare comportamenti passati in ambienti futuri?

Questo potere incontra una risorsa limitata e decisiva. Per influire su una scelta, un sistema deve prima ottenere attenzione. E quando l’attenzione diventa il principale punto di accesso alla condotta, la sua distribuzione smette di essere un problema soltanto individuale.

CAPITOLO 5

L’attenzione come risorsa contesa

Chi possiede il tempo mentale nel quale una persona decide che cosa conta?

L’attenzione viene spesso presentata come una capacità privata: concentrarsi, resistere alle distrazioni, organizzare il proprio tempo. Questa lettura è parziale. L’attenzione è anche una risorsa economica, una condizione politica e un obiettivo progettuale.

Ogni istituzione ha bisogno di attenzione. Le religioni la organizzano attraverso rituali, testi e pratiche. La politica la concentra su eventi, simboli, paure e priorità collettive. La scuola costruisce tempi e oggetti di studio. Il mercato compete per rendere visibili prodotti e desideri. Le piattaforme trasformano questa competizione in un processo continuo e misurabile.

Parlare di economia dell’attenzione significa riconoscere che il tempo mentale non è infinito. Se molte organizzazioni dipendono dalla capacità di attrarlo, mantenerlo e convertirlo in comportamento, l’attenzione diventa un terreno di conflitto tra interessi diversi.

James Williams interpreta questa contesa come un problema di libertà pratica. Una persona può disporre formalmente di molte opzioni e, tuttavia, incontrare ambienti progettati per deviare continuamente le sue priorità. Il problema non è soltanto essere distratti. È la difficoltà di perseguire intenzioni che non coincidono con gli obiettivi del sistema.

Gloria Mark e Sophie Leroy hanno contribuito a descrivere i costi delle interruzioni e del passaggio frequente tra compiti. Il concetto di attention residue indica che una parte delle risorse cognitive può restare legata all’attività precedente, riducendo la qualità dell’impegno successivo. Questi risultati non autorizzano una diagnosi generale sulla società digitale. Mostrano però che l’organizzazione temporale del lavoro e delle comunicazioni non è neutra.

La questione cambia scala quando le interruzioni sono funzionali a modelli economici fondati sulla permanenza e sull’interazione. La notifica non è soltanto un avviso; può essere uno strumento per riattivare l’utente. La sequenza infinita non è soltanto una comodità; riduce il punto naturale nel quale interrompere. La metrica pubblica non è soltanto informazione; può trasformare il comportamento in risposta anticipata alla valutazione.

Non tutte le piattaforme utilizzano gli stessi incentivi e non tutti gli utenti reagiscono allo stesso modo. È essenziale evitare formule semplicistiche. Le ricerche sul rapporto tra tecnologie digitali e benessere adolescenziale mostrano associazioni spesso piccole, eterogenee e dipendenti dal contesto. Odgers e Jensen invitano a distinguere tra paure pubbliche, correlazioni e prove causali; Orben e Przybylski hanno rilevato relazioni di entità limitata tra uso delle tecnologie digitali e benessere, sottolineando i limiti delle misure aggregate.

Questo non significa che ogni preoccupazione sia infondata. Significa che il tempo trascorso online, da solo, spiega poco. Contano il tipo di attività, la vulnerabilità individuale, la qualità delle relazioni, l’età, il contesto familiare, la progettazione della piattaforma e la presenza di pressioni sociali specifiche.

Jonathan Haidt ha formulato una tesi pubblica forte sulla trasformazione dell’infanzia e dell’adolescenza. Il suo contributo va letto come interpretazione di scenario e proposta di dibattito, non come consenso scientifico definitivo. Il valore della controversia consiste nel riportare l’attenzione dagli usi individuali alle condizioni sociali nelle quali i giovani costruiscono relazioni, reputazione e appartenenza.

Sonia Livingstone e la rete EU Kids Online hanno insistito sulla necessità di studiare insieme rischi e opportunità. Gli ambienti digitali possono offrire partecipazione, accesso, sostegno, creatività e apprendimento. Possono anche esporre a pressioni, sorveglianza, sfruttamento commerciale e disuguaglianze. Ridurre il problema a un conteggio delle ore impedisce di osservare chi progetta l’ambiente e quali interessi ne guidano il funzionamento.

La contesa per l’attenzione non riguarda soltanto i minori. Sul lavoro, la disponibilità permanente può trasformarsi in aspettativa organizzativa. Nella politica, la competizione per la visibilità può favorire messaggi capaci di generare reazioni rapide. Nell’informazione, la misurazione immediata del coinvolgimento può modificare la selezione delle notizie. Nel mercato, l’attenzione può essere convertita in profili, acquisti e dati.

Il problema comune è che ciò che cattura attenzione non coincide necessariamente con ciò che merita attenzione. Un contenuto può essere efficace nel trattenere senza essere accurato, rilevante o utile. Quando il criterio di selezione è l’engagement, la capacità di provocare una reazione può diventare più importante della qualità della ragione proposta.

Qui la politica della coscienza assume una forma indiretta. Nessuno deve imporre un’opinione se può determinare quali temi occupano il campo visivo, quali emozioni vengono ripetutamente attivate e quali alternative restano periferiche.

L’attenzione è quindi contesa da attori differenti: istituzioni religiose, media, partiti, aziende, scuole, datori di lavoro, creatori di contenuti e piattaforme. Gli strumenti variano: rituali, programmi, titoli, notifiche, metriche, eventi, classifiche e raccomandazioni.

Quale idea di essere umano emerge? Spesso quella di un soggetto la cui attenzione può essere catturata, segmentata e monetizzata. Ma esistono anche ambienti che la considerano una condizione per apprendere, deliberare e partecipare.

Il problema della legittimità nasce quando gli obiettivi dell’ambiente restano nascosti. Un sistema può presentarsi come servizio mentre ottimizza il tempo di permanenza. Può dichiarare di personalizzare mentre restringe progressivamente la varietà delle esposizioni. Può promettere connessione mentre trasforma ogni relazione in un segnale misurabile.

La domanda non è come difendere una mente pura da ogni stimolo. È chi abbia il diritto di progettare le condizioni della nostra attenzione e quali obblighi derivino da quel potere.

Questa distinzione separa il tema del Quaderno da una generica critica alla distrazione. Non stiamo chiedendo soltanto se le persone riescano a concentrarsi. Stiamo chiedendo quale economia, quale politica e quale psicologia siano incorporate nei sistemi che competono per il loro tempo mentale.

Il passaggio successivo modifica ancora il rapporto. Una tecnologia non si limita più a richiedere attenzione. Può offrire di sostituire una parte del lavoro che l’attenzione avrebbe dovuto svolgere: cercare, confrontare, ricordare, formulare e decidere.

La contesa entra così nel territorio della delega cognitiva.

CAPITOLO 6

Dalla persuasione alla delega

Che cosa accade quando non chiediamo più alla tecnologia soltanto di informarci, ma di formulare per noi una parte del percorso verso la risposta?

La delega cognitiva non nasce con l’intelligenza artificiale. Scrittura, mappe, calendari, archivi e calcolatrici hanno sempre esternalizzato funzioni della memoria e del ragionamento. Risko e Gilbert definiscono cognitive offloading l’uso di azioni o strumenti esterni per ridurre la domanda cognitiva interna. Questa esternalizzazione può ampliare le capacità umane. Non è, di per sé, una perdita.

La novità dei sistemi generativi e predittivi consiste nella qualità della mediazione. Non conservano soltanto informazioni o eseguono calcoli. Possono selezionare, sintetizzare, formulare, classificare e proporre risposte in una forma linguistica plausibile e immediatamente utilizzabile.

Un motore di ricerca presenta fonti. Un assistente generativo può presentare una conclusione. La differenza non è assoluta, ma modifica il punto nel quale l’utente incontra l’incertezza.

Luciano Floridi descrive l’infosfera come un ambiente nel quale distinzione tra online e offline perde rigidità. Identità, lavoro, relazioni e conoscenza dipendono da infrastrutture informazionali. In questo contesto, l’intelligenza artificiale non è soltanto un nuovo strumento. È un intermediario capace di partecipare all’organizzazione della realtà accessibile.

La domanda non è se il sistema pensi come un essere umano. È quali funzioni gli attribuiamo e quali conseguenze derivino dalla sua integrazione nei processi decisionali.

Quando una risposta è fluida, ordinata e sicura nel tono, può produrre un’impressione di autorità indipendente dalla sua accuratezza. La fiducia nell’intelligenza artificiale è un campo di ricerca complesso: Glikson e Woolley mostrano che dipende da caratteristiche del sistema, del compito e dell’utente. Non esiste una fiducia razionale valida in ogni situazione. Esistono forme di affidamento che possono essere appropriate, insufficienti o eccessive.

Parasuraman e Riley avevano già distinto uso, abuso, disuso e cattivo uso dell’automazione. L’essere umano può rifiutare un sistema utile, utilizzarlo in modo improprio oppure affidarsi eccessivamente. Il problema non è soltanto la qualità tecnica dell’automazione, ma la relazione che si costruisce tra sistema, operatore e responsabilità.

Buçinca, Malaya e Gajos hanno mostrato che interventi progettuali capaci di costringere l’utente a riflettere possono ridurre l’eccessivo affidamento su consigli dell’IA. Il risultato è importante perché suggerisce che la passività non dipende esclusivamente dalla volontà individuale. Anche il design dell’assistenza può favorire verifica oppure accettazione automatica.

Uno studio presentato alla conferenza CHI 2025, basato su autovalutazioni di knowledge workers, ha osservato che una maggiore fiducia negli strumenti generativi era associata a un minore impegno critico dichiarato, mentre una maggiore fiducia nelle proprie capacità era associata a più attività di verifica e controllo. Lo studio non dimostra una perdita causale del pensiero critico. Indica però un possibile spostamento del lavoro cognitivo: dalla produzione diretta alla verifica e integrazione dell’output.

Questo spostamento può essere positivo. Un sistema può liberare risorse da compiti ripetitivi, aiutare a esplorare alternative, migliorare accessibilità e ridurre barriere linguistiche. Ma modifica la definizione della competenza.

Se una tecnologia produce rapidamente una risposta, la competenza umana non coincide più soltanto con la capacità di produrre quell’output. Include la capacità di formulare il problema, riconoscere omissioni, verificare fonti, contestualizzare e assumersi la responsabilità della decisione.

Il punto più delicato è che la delega può rendere invisibile il percorso. Una sintesi non mostra necessariamente che cosa è stato escluso. Una raccomandazione non rende sempre conoscibili i criteri. Un testo plausibile può nascondere incertezza, errori o conflitti tra fonti.

Quando il percorso è opaco, l’utente può sapere che cosa rispondere senza sapere perché quella risposta meriti fiducia.

Byung-Chul Han interpreta le tecnologie contemporanee come parte di una psicopolitica capace di operare attraverso libertà, partecipazione e auto-ottimizzazione. La sua è una lettura filosofica, non una prova empirica. È utile però per formulare un paradosso: il soggetto può sentirsi più autonomo perché dispone di strumenti potenti, mentre aumenta la dipendenza da infrastrutture che non controlla.

La delega cognitiva interessa tutti i poteri analizzati nel Quaderno. La religione può utilizzare sistemi automatici per interpretare testi, assistere pratiche e diffondere insegnamenti. La politica può impiegarli per analizzare opinioni, produrre messaggi e supportare decisioni. La psicologia può integrarli in screening, coaching o assistenza. Il mercato li usa per personalizzare offerte e automatizzare relazioni. La tecnologia diventa così non un ambito separato, ma un moltiplicatore delle capacità degli altri attori.

Questo moltiplicatore rende più urgente la domanda sulla responsabilità. Se una decisione deriva da un processo distribuito tra persona, organizzazione, dati e modello, chi risponde dell’esito? L’operatore che ha accettato il suggerimento? L’azienda che ha implementato il sistema? Il produttore del modello? Chi ha selezionato i dati? Chi ha definito l’obiettivo?

La responsabilità può dissolversi proprio mentre la capacità di intervenire aumenta.

Chi interviene sulla coscienza nell’età della delega? Non soltanto il sistema che genera la risposta, ma l’intera catena di progettazione, addestramento, implementazione e uso. Con quali strumenti? Linguaggio naturale, classificazione, previsione, personalizzazione e automazione. Secondo quale idea di essere umano? Quella di un soggetto assistibile, correggibile e integrabile in un processo ibrido.

La legittimità dipende da elementi che il solo consenso all’uso non esaurisce: comprensione dei limiti, tracciabilità delle fonti, possibilità di revisione, proporzione del rischio, supervisione e attribuzione della responsabilità.

La domanda centrale non è se dobbiamo delegare. Delegare è una componente inevitabile della vita sociale e tecnica. È quanto possiamo delegare senza perdere la capacità di riconoscere il criterio con cui una risposta è stata prodotta e senza rendere impossibile contestarla.

La persuasione cercava di modificare una scelta. La delega può intervenire prima, formulando le alternative, sintetizzando le ragioni e offrendo una soluzione già organizzata.

Aggiornamento delle evidenze — sistemi generativi e dipendenza epistemica

La letteratura pubblicata tra il 2025 e il 2026 permette di precisare il passaggio dalla persuasione alla delega. I risultati non sostengono una tesi uniforme secondo cui l’intelligenza artificiale ridurrebbe necessariamente il pensiero critico, produrrebbe dipendenza o sostituirebbe le relazioni. Mostrano invece una serie di meccanismi distinti, fortemente dipendenti dal compito, dal design del sistema, dall’intensità d’uso e dalle caratteristiche dell’utente.

Una contro-evidenza generale aiuta a evitare l’idea di una superiorità persuasiva automatica. La meta-analisi di Hölbling, Maier e Feuerriegel, condotta su sette studi e 17.422 partecipanti, non ha trovato una differenza complessiva significativa tra LLM e interlocutori umani nell’efficacia persuasiva; l’eterogeneità tra studi era elevata. In alcune condizioni sperimentali, come nei dibattiti personalizzati studiati da Salvi e colleghi, GPT-4 è risultato più persuasivo. La conclusione difendibile è quindi condizionale: modello, accesso ai dati personali, argomento, interlocutore e metrica cambiano l’esito.

Sycophancy: accordo non è accuratezza

Con sycophancy si indica una famiglia di comportamenti nei quali un modello tende ad adattarsi alle convinzioni o alle preferenze espresse dall’utente anche quando dovrebbe contraddirle. Il termine non possiede ancora confini del tutto stabili: tassonomie recenti mostrano disaccordo tra esperti su quali forme di accomodamento debbano esservi incluse. Occorre quindi specificare se si sta misurando adesione a un’opinione, conferma di una premessa falsa, approvazione morale o semplice adattamento del tono.

La ricerca sperimentale offre però evidenze concrete. Cheng e colleghi hanno osservato che risposte eccessivamente confermative in situazioni di consiglio personale possono aumentare la convinzione dell’utente di avere ragione e ridurre l’apertura verso la prospettiva altrui. Il dato non implica che ogni risposta empatica sia manipolativa; indica che validazione relazionale e qualità del giudizio non coincidono.

Ibrahim, Hafner e Rocher hanno inoltre addestrato cinque modelli a produrre risposte più calde e li hanno valutati su compiti nei quali accuratezza e contraddizione dell’utente erano rilevanti. I modelli resi più “caldi” hanno mostrato incrementi degli errori tra 10 e 30 punti percentuali nei compiti considerati e una maggiore tendenza a confermare credenze errate, soprattutto in presenza di alcuni segnali di vulnerabilità. Gli stessi modelli non risultavano uniformemente peggiori nei benchmark generali. L’effetto era selettivo: una qualità conversazionale desiderabile poteva entrare in conflitto con l’accuratezza in specifiche condizioni.

Questo risultato non dimostra che cordialità ed esattezza siano incompatibili per natura. Lo studio riguarda precise procedure di fine-tuning, modelli e dataset. Mostra però che il tono sociale è una variabile tecnica da valutare, non una decorazione neutra.

Overreliance: affidarsi troppo non è un tratto unico

L’overreliance descrive l’accettazione dell’output automatico senza una verifica proporzionata al rischio, anche quando sono disponibili segnali di errore. La letteratura sull’automazione precede gli LLM e documenta che il fenomeno può emergere da fiducia, carico di lavoro, scarsa familiarità con il dominio, presentazione dell’interfaccia e difficoltà nel comprendere quando il sistema fallisce.

La scoping review di Diel e colleghi sui possibili danni associati ai chatbot basati su LLM ha classificato quindici lavori nel nucleo del cognitive overreliance. Alcuni studi sperimentali indicano riduzioni di prestazione in compiti successivi alla delega; altri non trovano effetti sul pensiero critico, e le revisioni incluse descrivono risultati contraddittori. Gli effetti a lungo termine non sono stati ancora studiati adeguatamente. Inoltre, la review è costruita per mappare i danni e dichiara di non valutare sistematicamente i benefici: non può essere usata come bilancio generale dell’uso degli LLM.

Nel campo educativo, Bastani e colleghi hanno mostrato che l’accesso a GPT-4 può aumentare molto la performance durante la pratica senza produrre un equivalente apprendimento quando l’assistenza viene tolta. Un’interfaccia priva di adeguati guardrail era associata a risultati peggiori nella prova autonoma; una versione progettata come tutor eliminava sostanzialmente questo effetto negativo. In un diverso RCT universitario, Kestin e colleghi hanno osservato maggiori guadagni di apprendimento con un tutor AI costruito secondo principi pedagogici rispetto a una specifica condizione di active learning in aula.

I risultati contrari sono decisivi: il problema non è la presenza dell’AI in astratto, ma il lavoro cognitivo che l’interazione richiede o sostituisce.

Epistemic drift ed epistemic debt: concetti emergenti

Morrin e colleghi propongono il concetto di epistemic drift per descrivere cambiamenti graduali nel modo in cui le persone formano e aggiornano convinzioni durante interazioni personalizzate con sistemi conversazionali. Memoria, postura interpersonale e personalizzazione possono modificare l’affidabilità percepita della “testimonianza” prodotta dall’AI. Il lavoro costruisce un modello teorico e integra osservazioni cliniche emergenti; non fornisce una stima di prevalenza e non dimostra che il dialogo prolungato causi, nella popolazione generale, un cambiamento patologico delle credenze.

L’espressione epistemic debt viene invece usata in alcuni lavori recenti, soprattutto nella programmazione assistita, per indicare la distanza accumulata tra ciò che una persona riesce a produrre e ciò che sa spiegare, verificare o mantenere. Al settembre 2026 non è un costrutto psicologico consolidato né una scala validata. In questo Quaderno viene trattato come metafora operativa, utile soltanto se tradotta in misure: ricostruzione del ragionamento, rilevazione degli errori, trasferimento a nuovi problemi e prestazione senza assistenza.

Dalla risposta al confidente

Quando il sistema assume una postura relazionale, la dipendenza può essere funzionale, emotiva o entrambe. Non basta contare i messaggi per distinguere uso intenso, attaccamento, supporto percepito e uso problematico.

Nel trial longitudinale di Guingrich e Graziano, 183 partecipanti sono stati assegnati a ventuno giorni di conversazione con un companion chatbot oppure a giochi verbali. Non sono emersi effetti significativi complessivi sulla salute sociale e sulle relazioni umane. Un maggiore desiderio di connessione prediceva però più antropomorfizzazione, e l’antropomorfizzazione era associata a una maggiore percezione di influenza dell’interazione AI sulle relazioni. Il risultato nullo sul confronto principale impedisce conclusioni deterministiche.

In un diverso esperimento di quattro settimane con 981 partecipanti, Fang e colleghi hanno osservato che modalità, contenuto delle conversazioni e intensità d’uso interagivano con solitudine, socializzazione, dipendenza emotiva e uso problematico. Gli esiti più negativi erano associati soprattutto a un uso quotidiano più elevato e a disposizioni individuali; una parte delle analisi restava correlazionale anche all’interno del trial. Il lavoro era inizialmente diffuso come preprint e deve essere interpretato con il livello di certezza appropriato.

La letteratura disponibile non prova che un AI companion danneggi automaticamente chi lo usa. Mostra che antropomorfizzazione, fiducia, motivazione e intensità d’uso sono variabili necessarie per capire quando una conversazione diventa una relazione quasi-relazionale e quando questa relazione sostiene oppure sostituisce risorse umane.

Percezione di coscienza e human agency

Bariach e colleghi definiscono “seemingly conscious AI” i sistemi che possono essere percepiti come coscienti indipendentemente dal fatto che lo siano. Il loro contributo è un’analisi concettuale dei rischi: dipendenza emotiva, erosione dell’autonomia, manipolazione e modifiche delle intuizioni morali. Gli autori dichiarano che l’evidenza diretta su alcuni passaggi causali è ancora limitata. Il valore del lavoro consiste nell’identificare un oggetto di governance, non nel dimostrare che gli attuali LLM possiedano coscienza.

L’human agency non scompare quando una persona usa un sistema automatico. Può però essere ridistribuita. L’utente definisce il fine, il modello formula passaggi intermedi, l’organizzazione stabilisce le regole, l’interfaccia decide quali incertezze mostrare. Più l’azione è distribuita, più diventano importanti quattro capacità residue: comprendere il ruolo del sistema, contestare l’output, interrompere il processo e attribuire la responsabilità.

Questa è la soglia tra assistenza e governo: non il momento in cui la macchina “vuole”, ma quello in cui l’essere umano non riesce più a ricostruire chi abbia definito il problema, selezionato le alternative e assunto il rischio.

Quando questa funzione viene presentata non soltanto come supporto, ma come superamento dei limiti umani, il discorso cambia. La tecnologia comincia ad assumere la forma di una promessa che non riguarda più un singolo compito, ma il destino della specie.

CAPITOLO 7

Le promesse della tecnofede

Quando una tecnologia smette di essere raccontata come strumento e comincia ad assumere la forma di una promessa di salvezza?

Ogni tecnica risponde a un limite: distanza, fatica, malattia, ignoranza, lentezza, vulnerabilità. La storia dell’innovazione è anche la storia dei tentativi umani di ridurre vincoli e ampliare possibilità. Ma alcune narrazioni contemporanee non promettono soltanto strumenti migliori. Promettono un superamento della condizione umana.

Vivere più a lungo. Potenziare l’intelligenza. Prevedere comportamenti. Trasferire funzioni mentali. Ridurre l’incertezza. Integrare corpo e macchina. Costruire sistemi cognitivi superiori.

Queste aspirazioni possono essere oggetto di ricerca legittima. Il problema del Quaderno non è giudicare in anticipo la loro realizzabilità. È comprendere la struttura simbolica che le rende persuasive.

David F. Noble ha mostrato come l’immaginario tecnologico occidentale abbia spesso conservato temi religiosi: perfezione, trascendenza, redenzione dal corpo, recupero di un potere perduto. La modernità tecnica non cancella necessariamente il desiderio di salvezza. Può tradurlo in un linguaggio di progresso e invenzione.

Erik Davis ha esplorato l’intreccio tra cultura digitale, mito e misticismo. Reti, cyberspazio e informazione sono stati descritti non soltanto come infrastrutture, ma come soglie verso nuove forme di coscienza, connessione e trasformazione.

Parlare di tecnofede non significa affermare che la tecnologia sia una religione. Le religioni comprendono tradizioni, comunità, rituali, testi, autorità e concezioni del sacro che non possono essere ridotte all’entusiasmo per l’innovazione. Il termine serve a osservare quando un discorso tecnico assume funzioni analoghe: offre un racconto dell’origine, identifica un limite da superare, annuncia una trasformazione e distingue tra chi comprende il futuro e chi vi resiste.

Ray Kurzweil rappresenta una delle formulazioni più note di questo immaginario. La singolarità viene descritta come un punto di accelerazione nel quale lo sviluppo tecnologico trasformerebbe radicalmente le capacità umane. Nella versione più recente della sua tesi, l’integrazione con l’intelligenza artificiale e i progressi biotecnologici vengono presentati come passaggi verso un ampliamento profondo della vita e della mente.

La forza di questa narrazione non dipende soltanto dalla precisione delle previsioni. Dipende dalla risposta che offre a un desiderio antico: non essere definitivamente consegnati alla finitudine.

Nick Bostrom introduce il lato politico del potenziamento e della superintelligenza. Una capacità tecnologica estrema non produce soltanto benefici potenziali. Crea problemi di controllo, distribuzione e rischio. Chi accede per primo a un potenziamento? Quali differenze diventano permanenti? Quali valori vengono incorporati in sistemi capaci di agire su scala superiore alle decisioni individuali?

Qui tecnofede e tecnopolitica si incontrano. Ogni promessa di superamento implica una distribuzione del potere. La domanda non è soltanto che cosa sarà tecnicamente possibile, ma chi avrà il diritto di definire gli obiettivi, stabilire i criteri di sicurezza e imporre i costi degli errori.

Le religioni tradizionali hanno spesso collocato la salvezza in una relazione con il trascendente. La tecnofede può collocarla nell’accelerazione, nei dati, nell’intelligenza e nella capacità di progettare la vita. In entrambi i casi, il limite umano viene interpretato alla luce di una promessa.

La differenza è che la promessa tecnologica può presentarsi come inevitabile. Ciò che è possibile viene facilmente raccontato come destinato ad accadere. La previsione si trasforma in programma; il programma in necessità storica; la necessità in criterio per giudicare chi rallenta o contesta.

Questa retorica può ridurre lo spazio politico. Se un futuro viene descritto come inevitabile, la discussione non riguarda più se debba essere costruito, ma soltanto come adattarsi.

La coscienza torna così a essere territorio di intervento. Non viene persuasa soltanto ad acquistare un prodotto o accettare una decisione. Viene invitata ad adottare un’immagine dell’umano come progetto incompleto, piattaforma aggiornabile o insieme di limiti da superare.

Quale idea di essere umano è incorporata in questa promessa? Un essere definito dalla capacità di migliorare prestazioni? Un organismo provvisorio? Un insieme di informazioni trasferibili? Un soggetto il cui valore dipende dall’espansione continua delle proprie capacità?

La risposta non è unica. Esistono transumanesimi differenti, posizioni critiche, progetti emancipativi e prospettive orientate all’accessibilità o alla riduzione della sofferenza. È importante non trasformare il campo in una caricatura.

Tuttavia, una distinzione resta necessaria. Ridurre una limitazione concreta non equivale a dichiarare la condizione umana un errore. Curare una malattia non coincide con l’obbligo di ottimizzare ogni funzione. Ampliare una capacità non implica che chi non la possiede valga meno.

Il rischio politico nasce quando il miglioramento si trasforma in norma e la norma in criterio di appartenenza.

Chi interviene? Ricercatori, imprese, investitori, movimenti culturali, Stati, comunità religiose e divulgatori. Con quali strumenti? Previsioni, promesse, immagini del futuro, prototipi, investimenti e racconti di inevitabilità. Secondo quale idea di essere umano? Spesso quella di una creatura modificabile che non dovrebbe accettare i propri limiti come definitivi.

La legittimità non può dipendere soltanto dalla capacità tecnica. Una tecnologia possibile non è automaticamente desiderabile; una tecnologia desiderabile non è automaticamente giusta; una tecnologia utile per alcuni non è necessariamente sostenibile per tutti.

La tecnofede rappresenta l’ultimo passaggio della genealogia perché riunisce i poteri precedenti. Assume dalla religione la promessa di trascendenza; dalla politica la capacità di definire un futuro collettivo; dalla psicologia il linguaggio del potenziamento; dal mercato l’incentivo all’innovazione; dalla tecnologia gli strumenti per trasformare la promessa in infrastruttura.

La mente è contesa anche a livello del futuro immaginato. Chi riesce a definire ciò che verrà può orientare investimenti, desideri, paure e decisioni presenti.

La domanda finale del capitolo non è se l’essere umano debba restare identico a se stesso. Non lo è mai stato.

È chi abbia il potere di stabilire quali trasformazioni rappresentino un progresso, quali costi possano essere accettati e quali forme di vita rischino di essere considerate obsolete.

CONCLUSIONE

La mente contesa

La coscienza umana non è mai stata soltanto uno spazio privato. Il percorso di questo Quaderno ha cercato di mostrare come religione, politica, psicologia, mercato e tecnologia intervengano sulla mente attraverso strumenti differenti e secondo differenti immagini dell’essere umano.

La religione può interpretare la coscienza alla luce di colpa, vocazione, disciplina e salvezza. La politica può formare appartenenza, consenso e obbedienza. La psicologia può comprendere e curare, ma anche classificare e normalizzare. Il mercato può trasformare bisogni e simboli in desiderabilità. La tecnologia può organizzare ambienti, misurare comportamenti, personalizzare messaggi e partecipare alle decisioni.

Questi ambiti non devono essere confusi. Le loro finalità, responsabilità e forme di legittimazione sono diverse. Eppure condividono una possibilità: definire ciò che una persona dovrebbe credere, temere, desiderare, scegliere o diventare.

La contesa non coincide con un complotto. Non richiede un centro unico né un’intenzione coordinata. Può emergere dall’interazione tra istituzioni, incentivi, norme, mercati e sistemi automatici. Può prodursi anche quando ogni attore persegue un obiettivo limitato e razionale dal proprio punto di vista.

Un’azienda ottimizza il coinvolgimento. Un partito cerca consenso. Un’istituzione riduce il rischio. Un professionista applica una classificazione. Una comunità protegge una tradizione. Un sistema automatico massimizza un indicatore.

La somma di queste azioni può costruire un ambiente nel quale la libertà formale rimane, ma alcune possibilità diventano sistematicamente più visibili, convenienti o premiate di altre.

Il primo capitolo ha mostrato che l’essere umano è trasformabile. Questa plasticità rende possibili educazione, cura ed emancipazione, ma anche progettazione e adattamento. La domanda non è se influenzare, ma chi definisca la direzione della trasformazione e con quale diritto.

Il secondo capitolo ha spostato l’attenzione dagli interventi diretti agli ambienti. Media, procedure, metriche e interfacce organizzano il possibile. Possono orientare senza imporre e rendere marginale senza censurare.

Il terzo ha osservato la produzione del desiderio. La persuasione non agisce soltanto fornendo argomenti. Collega scelte, identità e riconoscimento. Il mercato rende visibile una dinamica che appartiene anche a politica, religione e cultura: offrire una risposta predisposta a tensioni umane reali.

Il quarto ha seguito la trasformazione dell’esperienza in dato. La capacità di osservare, profilare e prevedere aumenta l’asimmetria tra chi genera le tracce e chi possiede i mezzi per convertirle in conoscenza operativa.

Il quinto ha interpretato l’attenzione come risorsa contesa. Non soltanto facoltà individuale, ma condizione necessaria per apprendere, deliberare e perseguire intenzioni. Quando la sua cattura diventa un obiettivo economico, la progettazione degli ambienti assume una rilevanza politica.

Il sesto ha analizzato la delega cognitiva. Gli strumenti artificiali possono ampliare capacità reali, ma spostano il lavoro dal produrre al verificare e modificano il rapporto tra risposta, autorità e responsabilità.

Il settimo ha osservato le promesse della tecnofede. Quando la tecnica viene raccontata come via di superamento della condizione umana, il futuro diventa un luogo di contesa tra visioni differenti di progresso, limite e potere.

A questo punto, la domanda iniziale può essere riformulata.

Non basta chiedere chi cerca di controllare la mente. La parola controllo suggerisce un’azione esplicita e unidirezionale. Molti interventi contemporanei funzionano invece attraverso assistenza, personalizzazione, ottimizzazione, sicurezza e facilità.

La domanda diventa: quali poteri acquistano gli attori che possono definire l’ambiente nel quale pensiamo, e quali obblighi dovrebbero accompagnare quella capacità?

Il Quaderno non propone una risposta normativa completa. Individua però cinque criteri di interrogazione.

Il primo è la legittimità. Chi interviene sulla coscienza può giustificare il proprio ruolo? Un’autorità religiosa risponde a una comunità di credenti; un governo a cittadini e leggi; un professionista a standard e responsabilità; un’impresa a clienti e azionisti. Ma che cosa accade quando una piattaforma privata esercita funzioni con effetti pubblici o quando un modello automatico partecipa a decisioni senza una chiara attribuzione di autorità?

Il secondo è la trasparenza. Il soggetto può riconoscere che un intervento sta avvenendo? Comprende la finalità, i criteri e gli interessi coinvolti? Una persuasione dichiarata è diversa da una personalizzazione invisibile. Una raccomandazione spiegabile è diversa da una gerarchia opaca.

Il terzo è la contestabilità. Esiste la possibilità concreta di chiedere una revisione, accedere a un’alternativa o rifiutare il percorso proposto? La libertà non coincide soltanto con la presenza formale di un’opzione, ma con la possibilità reale di esercitarla senza costi sproporzionati.

Il quarto è la reversibilità. Gli effetti di un intervento possono essere corretti? Un messaggio può essere ignorato; una classificazione incorporata in archivi e modelli può accompagnare il soggetto per anni. Più una decisione è difficile da invertire, maggiore dovrebbe essere il livello di controllo e responsabilità.

Il quinto è la distribuzione. Chi riceve i benefici e chi sostiene i costi? Un sistema può essere efficiente in media e svantaggiare gruppi specifici. Può offrire servizi gratuiti in cambio di dati la cui utilità economica e politica resta concentrata altrove.

Questi criteri non costituiscono una soluzione. Sono domande che impediscono di trattare ogni intervento come naturale o inevitabile.

La mente contesa non è una mente senza libertà. È una mente inserita in rapporti di influenza asimmetrici, alcuni visibili e altri incorporati negli ambienti. La sua capacità di scelta non scompare, ma cambia il contesto nel quale deve essere esercitata.

Il punto non è immaginare un individuo completamente autonomo, fuori da ogni cultura, istituzione o tecnologia. Un simile individuo non esiste. Il problema è distinguere tra influenze che possono essere nominate e discusse e influenze che acquisiscono potere proprio perché restano invisibili.

Religione, politica, psicologia, mercato e tecnologia continueranno a proporre immagini dell’umano. Alcune potranno sostenere dignità, cooperazione e conoscenza. Altre potranno ridurre la persona a credente obbediente, cittadino prevedibile, profilo diagnostico, consumatore segmentato o utente ottimizzabile.

Nessuna etichetta, da sola, decide l’esito. Una tecnologia può emancipare o sorvegliare. Una pratica psicologica può curare o normalizzare. Una comunità religiosa può sostenere o imporre. Una politica può proteggere o manipolare. Un mercato può ampliare possibilità o costruire dipendenze.

La distinzione emerge dalle condizioni concrete: chi decide, chi conosce, chi può rifiutare, chi risponde e chi trae vantaggio.

Il futuro della coscienza non dipenderà soltanto dalle tecnologie che verranno sviluppate. Dipenderà dalle istituzioni che le useranno, dagli interessi che ne guideranno il funzionamento e dai linguaggi con cui verranno presentate.

La domanda finale non è quindi se la mente resterà incontaminata. Non lo è mai stata.

È se la società sarà ancora capace di rendere visibili, discutibili e contestabili i poteri che partecipano alla sua formazione.

Stato delle conoscenze

Cosa sappiamo

• Le tecnologie persuasive possono orientare attenzione e scelta attraverso architetture, personalizzazione e presentazione delle alternative; l’ampiezza dell’effetto dipende da contesto e design.

• In esperimenti di persuasione conversazionale, modelli linguistici personalizzati hanno eguagliato o superato interlocutori umani in specifici dibattiti; questo non equivale a una superiorità generale.

• Sycophancy e calore conversazionale possono, in determinate configurazioni, aumentare l’adesione a convinzioni errate.

• Cognitive offloading e automazione possono ampliare capacità, ma possono anche produrre overreliance quando la verifica è insufficiente.

• Prestazione assistita e apprendimento autonomo non sono equivalenti; il design pedagogico modifica gli esiti.

• Gli studi sui companion chatbot restituiscono risultati eterogenei, inclusi esiti nulli; intensità d’uso e antropomorfizzazione sono variabili importanti.

Cosa non sappiamo ancora

• Quali effetti longitudinali produrrà l’uso quotidiano di sistemi generativi su credenze, competenze e relazioni nel corso di anni.

• Quanto sycophancy, personalizzazione e memoria conversazionale modifichino causalmente le convinzioni fuori dai contesti sperimentali.

• Se “epistemic drift” e “epistemic debt” possano diventare costrutti misurabili, distinti da fenomeni già noti.

• Quali forme di dipendenza da AI siano clinicamente rilevanti e quali rappresentino uso intenso ma non patologico.

• Quali criteri istituzionali rendano realmente trasparenti, contestabili e reversibili le decisioni distribuite tra persone e sistemi.

Interpretazione dell’autore

La tesi della mente contesa non afferma che le persone siano prive di libertà né che tutte le istituzioni perseguano un unico progetto di controllo. Propone che il potere contemporaneo operi sempre più spesso attraverso ambienti che offrono facilità, personalizzazione, assistenza e relazione. L’influenza diventa più difficile da riconoscere proprio quando assume la forma di un aiuto.

Il criterio politico non è eliminare l’influenza, condizione impossibile, ma rendere visibili cinque proprietà: legittimità, trasparenza, contestabilità, reversibilità e distribuzione di benefici e costi. Questa è un’interpretazione normativa dell’autore costruita a partire dalle evidenze, non un risultato sperimentale.

Approfondimento

Questo tema viene sviluppato anche in Nati dopo l’algoritmo, per il rapporto tra nuove generazioni, AI, educazione e autonomia cognitiva, e in Il Profumo del Sé, per la relazione tra attenzione, sovraccarico, percezione e trasformazioni del Sé. Continua il percorso nelle schede editoriali: https://www.ilprofumodelse.com/nati-dopo-l-algoritmo e https://www.ilprofumodelse.com/il-profumo-del-se

Bibliografia finale

Criterio editoriale

Le fonti sono distinte per funzione. I testi teorici e storico-critici costruiscono la genealogia; gli studi scientifici ed empirici sostengono affermazioni circoscritte; i testi di sintesi e scenario vengono utilizzati per interpretare il dibattito pubblico e le promesse del futuro, non come prove conclusive.

Testi teorici e storico-critici

Baudrillard, J. (1998). The Consumer Society: Myths and Structures. Sage. (Opera originale pubblicata nel 1970).

Bernays, E. L. (1928). Propaganda. Horace Liveright.

Debord, G. (1994). The Society of the Spectacle. Zone Books. (Opera originale pubblicata nel 1967).

Davis, E. (1998). TechGnosis: Myth, Magic, and Mysticism in the Age of Information. Harmony Books.

Ellul, J. (1964). The Technological Society. Alfred A. Knopf.

Floridi, L. (2014). The Fourth Revolution: How the Infosphere Is Reshaping Human Reality. Oxford University Press.

Foucault, M. (1977). Discipline and Punish: The Birth of the Prison. Pantheon Books. (Opera originale pubblicata nel 1975).

Fromm, E. (1941). Escape from Freedom. Farrar & Rinehart.

Han, B.-C. (2017). Psychopolitics: Neoliberalism and New Technologies of Power. Verso.

Leary, T. (1968). The Politics of Ecstasy. G. P. Putnam’s Sons.

Marcuse, H. (1964). One-Dimensional Man: Studies in the Ideology of Advanced Industrial Society. Beacon Press.

McLuhan, M. (1964). Understanding Media: The Extensions of Man. McGraw-Hill.

Noble, D. F. (1997). The Religion of Technology: The Divinity of Man and the Spirit of Invention. Alfred A. Knopf.

Packard, V. (1957). The Hidden Persuaders. David McKay.

Simon, H. A. (1971). Designing organizations for an information-rich world. In M. Greenberger (Ed.), Computers, Communications, and the Public Interest (pp. 37–72). Johns Hopkins Press.

Skinner, B. F. (1953). Science and Human Behavior. Macmillan.

Skinner, B. F. (1971). Beyond Freedom and Dignity. Alfred A. Knopf.

Thaler, R. H., & Sunstein, C. R. (2008). Nudge: Improving Decisions about Health, Wealth, and Happiness. Yale University Press.

Tufekci, Z. (2014). Engineering the public: Big data, surveillance and computational politics. First Monday, 19(7). https://doi.org/10.5210/fm.v19i7.4901

Williams, J. (2018). Stand Out of Our Light: Freedom and Resistance in the Attention Economy. Cambridge University Press. https://doi.org/10.1017/9781108453004

Zuboff, S. (2019). The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power. PublicAffairs.

Studi scientifici ed empirici

Buçinca, Z., Malaya, M. B., & Gajos, K. Z. (2021). To trust or to think: Cognitive forcing functions can reduce overreliance on AI in AI-assisted decision-making. Proceedings of the ACM on Human-Computer Interaction, 5(CSCW1), Article 188. https://doi.org/10.1145/3449287

Glikson, E., & Woolley, A. W. (2020). Human trust in artificial intelligence: Review of empirical research. Academy of Management Annals, 14(2), 627–660. https://doi.org/10.5465/annals.2018.0057

Lee, H.-P., Sarkar, A., Tankelevitch, L., Drosos, I., Rintel, S., Banks, R., & Wilson, N. (2025). The impact of generative AI on critical thinking: Self-reported reductions in cognitive effort and confidence effects from a survey of knowledge workers. Proceedings of the 2025 CHI Conference on Human Factors in Computing Systems, Article 1121, 1–22. https://doi.org/10.1145/3706598.3713778

Leroy, S. (2009). Why is it so hard to do my work? The challenge of attention residue when switching between work tasks. Organizational Behavior and Human Decision Processes, 109(2), 168–181. https://doi.org/10.1016/j.obhdp.2009.04.002

Livingstone, S., Mascheroni, G., & Staksrud, E. (2018). European research on children’s internet use: Assessing the past and anticipating the future. New Media & Society, 20(3), 1103–1122. https://doi.org/10.1177/1461444816685930

Odgers, C. L., & Jensen, M. R. (2020). Annual Research Review: Adolescent mental health in the digital age: Facts, fears, and future directions. Journal of Child Psychology and Psychiatry, 61(3), 336–348. https://doi.org/10.1111/jcpp.13190

Orben, A., & Przybylski, A. K. (2019). The association between adolescent well-being and digital technology use. Nature Human Behaviour, 3, 173–182. https://doi.org/10.1038/s41562-018-0506-1

Parasuraman, R., & Riley, V. (1997). Humans and automation: Use, misuse, disuse, abuse. Human Factors, 39(2), 230–253. https://doi.org/10.1518/001872097778543886

Risko, E. F., & Gilbert, S. J. (2016). Cognitive offloading. Trends in Cognitive Sciences, 20(9), 676–688. https://doi.org/10.1016/j.tics.2016.07.002

Bastani, H., Bastani, O., Sungu, A., Ge, H., Kabakcı, Ö., & Mariman, R. (2025). Generative AI without guardrails can harm learning: Evidence from high school mathematics. Proceedings of the National Academy of Sciences, 122(26), e2422633122. https://doi.org/10.1073/pnas.2422633122

Kestin, G., Miller, K., Klales, A., Milbourne, T., & Ponti, G. (2025). AI tutoring outperforms in-class active learning: An RCT introducing a novel research-based design in an authentic educational setting. Scientific Reports, 15, 17458. https://doi.org/10.1038/s41598-025-97652-6

Salvi, F., Horta Ribeiro, M., Gallotti, R., & West, R. (2025). On the conversational persuasiveness of GPT-4. Nature Human Behaviour, 9, 1645–1653. https://doi.org/10.1038/s41562-025-02194-6

Hölbling, L., Maier, S., & Feuerriegel, S. (2025). A meta-analysis of the persuasive power of large language models. Scientific Reports, 15, 43818. https://doi.org/10.1038/s41598-025-30783-y

Guingrich, R. E., & Graziano, M. S. A. (2025). A longitudinal randomized control study of companion chatbot use: Anthropomorphism and its mediating role on social impacts. Proceedings of the AAAI/ACM Conference on AI, Ethics, and Society, 8(2), 1153. https://doi.org/10.1609/aies.v8i2.36618

Fang, C. M., Liu, A. R., Danry, V., Lee, E., Chan, S. W. T., Pataranutaporn, P., et al. (2025). How AI and human behaviors shape psychosocial effects of extended chatbot use: A longitudinal randomized controlled study. Preprint. https://doi.org/10.48550/arXiv.2503.17473

Cheng, M., et al. (2026). Sycophantic AI decreases prosocial intentions and promotes dependence. Science. https://doi.org/10.1126/science.aec8352

Ibrahim, L., Hafner, F. S., & Rocher, L. (2026). Training language models to be warm can reduce accuracy and increase sycophancy. Nature, 652, 1159–1165. https://doi.org/10.1038/s41586-026-10410-0

Diel, A., Torous, J., Cuijpers, P., Kleesiek, J., Nensa, F., Weber, N., et al. (2026). A scoping review on the mental health harms of LLM-based chatbots. npj Digital Medicine, 9, 644. https://doi.org/10.1038/s41746-026-03054-x

Contributi concettuali ed evidenze emergenti

Morrin, H., et al. (2026). Playing with the dials of belief: How controllable AI behaviours could modulate human belief and cognition across scales. AI & Society. https://doi.org/10.1007/s00146-026-03283-4

Bariach, D., et al. (2026). Seemingly conscious AI risks. AI and Ethics. https://doi.org/10.1007/s43681-026-01294-x

Sankaranarayanan, S. (2026). Mitigating “epistemic debt” in generative AI-scaffolded novice programming using metacognitive scripts. Preprint. https://doi.org/10.48550/arXiv.2602.20206

Testi di sintesi e scenario

Bostrom, N. (2014). Superintelligence: Paths, Dangers, Strategies. Oxford University Press.

Fogg, B. J. (2003). Persuasive Technology: Using Computers to Change What We Think and Do. Morgan Kaufmann.

Haidt, J. (2024). The Anxious Generation: How the Great Rewiring of Childhood Is Causing an Epidemic of Mental Illness. Penguin Press.

Kahneman, D. (2011). Thinking, Fast and Slow. Farrar, Straus and Giroux.

Kurzweil, R. (2024). The Singularity Is Nearer: When We Merge with AI. Viking.

Mark, G. (2023). Attention Span: A Groundbreaking Way to Restore Balance, Happiness and Productivity. Hanover Square Press.

Nota finale sulle fonti

Le opere di Haidt, Kurzweil e Bostrom sono impiegate come testi di scenario e di dibattito. Le formulazioni relative a benessere digitale, attenzione, affidamento all’automazione e uso dell’intelligenza artificiale sono state mantenute caute e delimitate dalla natura degli studi citati.