Dal controllo del risultato al controllo del processo
Per molti anni, il problema della collaborazione fra essere umano e intelligenza artificiale è stato formulato soprattutto in una direzione: come può una persona verificare ciò che un sistema produce? Controllare un risultato, individuare un errore, approvare o interrompere un’azione rimangono funzioni essenziali. Ma quando l’AI entra in attività prolungate, articolate in più passaggi, emerge anche la domanda inversa: un sistema può riconoscere che l’utente dispone di informazioni incomplete, sta formulando una richiesta ambigua o sta delegando un controllo necessario? La questione non riguarda una presunta coscienza della macchina. Riguarda l’uso di tracce e indicatori osservabili per produrre riscontri sul processo di lavoro.
Il tradizionale schema human-in-the-loop descrive molte situazioni in cui una decisione o un risultato dell’AI richiedono il giudizio di una persona. La supervisione, tuttavia, non esaurisce i problemi di una collaborazione reale. In un progetto di ricerca, per esempio, una richiesta può presupporre dati mancanti, definizioni statistiche non concordate o criteri di confronto insufficientemente espliciti. Un assistente capace di far emergere questi punti prima dell’esecuzione potrebbe essere utile. È una possibilità progettuale: non un beneficio già dimostrato in ogni situazione.
Che cosa propongono Casadei e colleghi
In un articolo pubblicato il 3 ottobre 2026 sul Journal of Ambient Intelligence and Humanized Computing, Roberto Casadei e colleghi propongono un modello di collaborazione fondato su valutazioni continue, proattive e bidirezionali. Lo chiamano AI-in-the-human-loop e introducono anche l’analogia human-under-test. Nel modello, il sistema non esamina soltanto l’output finale: considera obiettivi, contesto, conoscenze, comportamento osservabile, storia delle interazioni e passaggi del lavoro, per individuare possibili disallineamenti e suggerire chiarimenti.
L’espressione human-under-test è una metafora metodologica mutuata dalla verifica del software. Non significa che le persone debbano essere giudicate come macchine difettose, né che un modello linguistico possa misurare direttamente la maturità cognitiva di un individuo. Gli autori stessi indicano numerose domande aperte sulle modalità di valutazione, sulla privacy e su chi debba valutare il valutatore.
Riferimento: Casadei e colleghi, 2026 [1].
Un caso reale, ma una prova ancora preliminare
Gli autori hanno esaminato retrospettivamente un progetto di analisi di questionari condotto da un analista umano con l’assistenza di un modello linguistico. Il corpus principale comprende undici chat documentate, trenta turni umani e trenta turni del sistema. Due modelli sono stati impiegati come valutatori delle tracce di interazione; gli autori hanno inoltre controllato manualmente le osservazioni.
La ricostruzione ha individuato alcuni attriti: un conteggio errato in presenza di chiavi duplicate in un file JSON, differenze nella granularità con cui erano classificate le risposte aperte, difficoltà nella disponibilità degli artefatti e criteri non sempre espliciti per le analisi comparative. In diverse circostanze, una domanda preventiva avrebbe potuto ridurre ambiguità e successive correzioni.
I due valutatori hanno però fornito giudizi diversi sul grado di maturazione della collaborazione. Soprattutto, non è stato sperimentato un sistema completo che intervenga in tempo reale, né sono stati misurati miglioramenti causali mediante gruppi di controllo. Un solo analista, un solo compito e un numero limitato di conversazioni non consentono di generalizzare i risultati. Il contributo è quindi esplorativo e utile per formulare ipotesi, non una dimostrazione di efficacia.
Riferimento: Casadei e colleghi, 2026 [1].
La controevidenza: collaborare non significa sempre migliorare
La letteratura sulla collaborazione uomo–AI invita a evitare una conclusione intuitiva ma troppo semplice: due capacità combinate non producono necessariamente una prestazione superiore. In una revisione sistematica e meta-analisi preregistrata, Vaccaro, Almaatouq e Malone hanno analizzato 106 esperimenti, riportati in 74 pubblicazioni, e 370 dimensioni dell’effetto, confrontando persone sole, AI sola e combinazioni uomo–AI. Mediamente, la combinazione risultava migliore della prestazione umana isolata, ma inferiore al migliore tra essere umano e sistema considerati separatamente.
Gli esiti variavano per tipologia di compito: perdite più evidenti in alcune attività decisionali, vantaggi più promettenti in attività di creazione di contenuti. Il vantaggio medio nei compiti creativi, tuttavia, non raggiungeva la significatività statistica. Gli autori segnalano eterogeneità e possibili distorsioni della letteratura. Questa meta-analisi non verifica il modello proposto da Casadei; costituisce però una cautela generale contro l’assunto che ogni incremento di intervento dell’AI renda automaticamente più competente la collaborazione.
Riferimento: Vaccaro e colleghi, 2024 [2].
Il confine tra aiuto e valutazione della persona
Una segnalazione del tipo «manca una definizione del campione» può sostenere la qualità del lavoro. Una deduzione del tipo «questo utente non è sufficientemente maturo» introduce invece rischi diversi: può dipendere da indicatori incompleti, da standard non condivisi o da una lettura erronea delle intenzioni. Un modello ricava stime dalle informazioni disponibili; non accede direttamente alle conoscenze, alla motivazione o allo stato mentale della persona.
Per questo, un eventuale sistema proattivo dovrebbe dichiarare che cosa sta valutando, su quali tracce si basa, quanto è incerta l’inferenza e come l’utente possa contestarla. La proposta di chiarimento deve rimanere distinguibile da un verdetto sull’individuo. Anche il trattamento dei dati delle interazioni richiede minimizzazione, finalità esplicite e possibilità di revoca, secondo il contesto applicativo e le norme pertinenti.
Una prospettiva per l’Osservatorio dell’Umano
L’interpretazione che proponiamo è la seguente: la trasformazione più significativa non è il passaggio da una macchina passiva a una macchina che “conosce” l’essere umano. È il passaggio da un’interfaccia basata su comandi a un’infrastruttura che produce anche valutazioni sul modo in cui le persone lavorano e decidono.
In uno scenario futuro, la qualità dell’interazione potrebbe dipendere non solo dall’accuratezza dell’AI, ma anche dalla reversibilità dei suoi suggerimenti, dalla visibilità degli errori, dalla possibilità di disattivare valutazioni non richieste e dalla conservazione del controllo umano sugli obiettivi. Sono criteri di progettazione e questioni da sottoporre a ricerca, non caratteristiche già garantite dai sistemi attuali. Una collaborazione realmente utile non dovrebbe sottrarre la facoltà di dissentire da ciò che l’AI crede di aver capito.

