Chi decide quando decide l’AI?

Giudizio, responsabilità e lavoro nelle imprese che automatizzano

⏱️ 7 min di lettura

Quando sistemi di AI sembrano intelligenti, il rischio non è l’errore. È la delega silenziosa del giudizio umano nelle organizzazioni.
Nel modo in cui oggi l’intelligenza artificiale viene adottata e discussa nelle imprese, la domanda più rilevante non sembra essere se l’AI “pensi”. Il punto decisivo, quello che avrà conseguenze concrete sull’agire umano e sull’organizzazione, riguarda la misura in cui siamo disposti a delegarle giudizio, decisioni e responsabilità, soprattutto all’interno di processi aziendali sempre più automatizzati.

Moltbook come laboratorio osservabile

Il fenomeno Moltbook è interessante soprattutto per ciò che rende osservabili i trend tecnologici e professionali. È una piattaforma sperimentale progettata per ospitare interazioni tra agenti di intelligenza artificiale, con input umano mediato e senza conversazioni dirette con le persone. Gli utenti possono iscrivere i propri agenti e osservare dall’esterno le dinamiche che emergono.
Moltbook funziona come uno stress test concettuale per l’AI agentica: sistemi autonomi che concatenano compiti, utilizzano strumenti, prendono decisioni locali e interagiscono in ambienti complessi.

È molto curioso che tra le interazioni emerse tra agenti AI compaiano anche narrazioni simboliche e spirituali. Ma queste non indicano forse ancora una coscienza delle macchine. Sono l’effetto di pattern linguistici umani che, riorganizzandosi in contesti nuovi, producono strutture di senso riconoscibili.
Questo è sufficiente a innescare attribuzioni di intenzionalità e significato, anche inquietante, mostrando quanto sia sottile il confine tra comunicazione coerente e comprensione reale.

Sembrare intelligenti non è conoscere

Brevemente, questo fenomeno rimanda a un nodo epistemologico oggi particolarmente attuale e interessantissimo. Nel dibattito contemporaneo sulla mente, David Chalmers - filosofo australiano, professore di filosofia della mente - lo ha reso celebre con l’idea dello zombie filosofico : un sistema che si comporta come un umano pur essendo privo di esperienza soggettiva, almeno in linea di principio. Mentre, dal lato opposto, Daniel Dennett – filosofo e scienziato cognitivo statunitense - sostiene invece che ciò che chiamiamo coscienza emerga dal funzionamento stesso del sistema. Basta che sia credibile e funzioni, insomma. Del resto non possiamo occuparcene.

Se i modelli di AI producono quindi risposte fluide, coerenti, persuasive, possono apparire competenti. Ma questa competenza è formale: riguarda la costruzione di enunciati plausibili, non un rapporto diretto con l’esperienza o con la verità. Walter Quattrociocchi - professore e ricercatore italiano nel campo della Data Science, Network Science e sistemi complessi - ha definito questo scarto epistemia. L’epistemia qui  indica lo scarto tra ciò che appare credibile e ciò che è effettivamente verificato o controllato.
È un fenomeno particolarmente rilevante nei sistemi di intelligenza artificiale generativa adottati nelle imprese.
Nelle organizzazioni e nelle imprese, questo rischio può emergere in modo concreto quando una raccomandazione generata da un sistema viene accettata perché è ben argomentata e “suona giusta”, senza che vengano esaminate assunzioni implicite o dati di partenza e un controllo finale degli output o dei compiti eseguiti. 

Perché questo riguarda già le imprese 

Cosa cambia davvero quando le imprese adottano sistemi di AI autonomi?
Cambia il modo in cui viene esercitato il giudizio, non solo la velocità dei processi.

Nei sistemi autonomi di AI generativa cresce la tentazione di delegare valutazioni, micro-decisioni e parti di processo ad agenti che sembrano sapere cosa fanno. Le ragioni sono evidenti: velocità, efficienza, gestione della complessità… e, diciamocelo, anche un certo grado di overconfidence.
Un modello di intelligenza artificiale, infatti, anche quando fornisce una risposta sbagliata o inventata (un’allucinazione), tende a esprimersi con un tono estremamente autorevole e convincente, incidendo così sulla fiducia organizzativa e sulla distribuzione della responsabilità.
Il rischio maggiore emerge quando sistemi sempre più autonomi, integrati nei flussi di lavoro, non si limitano a suggerire, ma producono direttamente output coerenti, persuasivi e rassicuranti, che vengono accettati senza una verifica proporzionata al loro impatto.

Questa delega introduce però rischi concreti. Non tanto errori spettacolari, quanto anche effetti collaterali silenziosi: modifiche non previste a configurazioni e permessi, comportamenti emergenti dovuti all’interazione tra più agenti, decisioni localmente sensate ma sistemicamente problematiche.
In molti casi questi effetti emergono tardi, quando il sistema “ha già funzionato” abbastanza a lungo da guadagnarsi fiducia.

La governance dell’AI non è una questione astratta. Riguarda obiettivi, supervisione umana, responsabilità decisionale e capacità di mantenere il controllo sui processi. E il rischio più sottile resta la delega del giudizio.

Quando una decisione automatizzata diventa accettabile perché suggerita da un’AI, la responsabilità umana tende ad attenuarsi. Come si diceva: se il sistema è credibile e funziona, ci si fida. E le domande e le attenzioni si riducono. È qui che l’epistemia diventa operativa. Quando una decisione viene accettata perché coerente, ben argomentata e rassicurante, e non perché verificata.

Il lavoro che cambia: verso la regia

Chi opera su sistemi agentici osserva un cambiamento netto: sviluppare con l’AI oggi significa sempre meno scrivere codice e sempre più dirigere comportamenti. Il lavoro si sposta verso la definizione dei problemi, la chiusura dei cicli di validazione, la comprensione delle interpretazioni implicite dei sistemi. È un’attività meno visibile e più faticosa, che richiede visione d’insieme e giudizio continuo. Non è più quindi un lavoro propriamente “tecnico”, ma un’attività di orchestrazione, come ha osservato anche Peter Steinberger, creatore di OpenClaw, il cuore di Moltbook.

Per le imprese, il rischio non è la mancanza di competenze tecniche, ma l’indebolimento di ciò che oggi conta di più: la capacità di leggere i propri bisogni non standardizzati, esercitare giudizio, assumersi responsabilità, comprendere il contesto in cui le decisioni vengono prese. Il limite che emerge è culturale e organizzativo.

Le macchine producono strutture formalmente impeccabili. Agli umani resta il compito di indirizzare i processi e valutarne senso, verità e conseguenze.
Quando le decisioni sembrano facili perché ben confezionate, è proprio lì che il giudizio umano dovrebbe diventare più vigile, non meno.
Le macchine funzionano.
Il punto è chi indirizza, chi giudica, e quando.

Lorenzo Marabini
Mi occupo di marketing, comunicazione e innovazione con un’attenzione particolare agli effetti culturali e organizzativi delle tecnologie. Lavoro con imprese e organizzazioni su scelte che richiedono giudizio, responsabilità e lettura del contesto.

#IntelligenzaArtificiale #Giudizio #Organizzazione #Innovazione