Hai assunto un agente AI. Adesso chi controlla il suo lavoro?

Immagina di arrivare in ufficio e scoprire che durante la notte un agente AI ha aggiornato il CRM, un altro ha preparato delle offerte commerciali e un terzo ha elaborato le richieste dei clienti.

Tutto apparentemente perfetto. Nessuno ha dovuto chiedere nulla.

Poi emerge un problema: un'offerta contiene uno sconto non autorizzato, il CRM riporta informazioni incoerenti e nessuno sa ricostruire esattamente quali dati siano stati utilizzati.

Chi è responsabile? E soprattutto, come si impedisce che accada nuovamente?

Non è uno scenario inevitabile, ma rappresenta un rischio concreto quando sistemi autonomi iniziano a interagire con processi aziendali reali.

Ed è proprio questo il problema che una nuova iniziativa di Tata Consultancy Services cerca di affrontare.

La novità di TCS: una cabina di regia per gli agenti AI

Il 12 ottobre 2026, il Financial Express ha riportato che Tata Consultancy Services (TCS) sta sviluppando un'infrastruttura aziendale dotata di un livello centralizzato di governance, progettato per coordinare agenti AI realizzati internamente, dai clienti o da fornitori esterni.

L'obiettivo è creare quello che tecnicamente viene chiamato control plane: una sorta di cabina di regia capace di gestire agenti distribuiti tra diverse applicazioni aziendali, comprese piattaforme come SAP, Oracle e ServiceNow.

Secondo Aarthi Subramanian, executive director e chief operating officer di TCS, questo livello di controllo dovrà aiutare le aziende a coordinare gli agenti e gestirne i costi.

È importante distinguere l'annuncio dai risultati: TCS sta sviluppando questa soluzione, ma la notizia non dimostra ancora quanto sia efficace in ogni scenario aziendale.

Il punto interessante, però, va oltre il singolo prodotto.

Se fino a poco tempo fa la domanda era «Come possiamo utilizzare l'intelligenza artificiale?», oggi ne emerge un'altra, decisamente più impegnativa:

Come possiamo controllare un'organizzazione nella quale lavorano anche sistemi autonomi?

Un agente AI non è un semplice chatbot

Per comprendere il problema bisogna distinguere due modalità di utilizzo dell'intelligenza artificiale.

Un chatbot tradizionale riceve una domanda e produce una risposta. Generalmente è una persona a decidere cosa fare con quell'informazione.

Un agente AI può invece ricevere un obiettivo, accedere a determinati strumenti ed eseguire una sequenza di operazioni.

Per esempio, potrebbe:

• Consultare le richieste commerciali ricevute via email.
• Verificare le informazioni disponibili nel CRM.
• Preparare una proposta utilizzando listini aggiornati.
• Registrare l'attività nel gestionale.
• Sottoporre il documento all'approvazione di un responsabile.

È un cambiamento significativo: l'AI non produce soltanto contenuti, ma può contribuire all'esecuzione di un processo.

Quando gli agenti diventano numerosi, tuttavia, non basta più controllare la qualità delle singole risposte.

Occorre verificare come interagiscono, quali informazioni condividono, quali operazioni possono compiere e cosa succede quando qualcosa non funziona.

Il rischio nascosto: tante automazioni efficienti, un'azienda meno controllabile

Immaginiamo un'azienda commerciale che adotti tre soluzioni AI indipendenti.

La prima analizza le opportunità di vendita, la seconda aggiorna il magazzino e la terza prepara gli ordini ai fornitori.

Ciascuna funziona correttamente rispetto alle proprie istruzioni.

Ma cosa accade se il primo agente interpreta una previsione di vendita come un ordine confermato, mentre il terzo utilizza quell'informazione per predisporre un acquisto?

Il problema non è necessariamente un agente che sbaglia. Può essere un processo progettato senza considerare le interazioni tra agenti.

È una distinzione fondamentale.

Un'automazione isolata può essere accurata e produrre comunque conseguenze indesiderate quando entra in relazione con altre automazioni.

Aumentando il numero di strumenti, crescono anche le possibili interdipendenze.

Senza un coordinamento adeguato, l'azienda rischia di ottenere il paradosso opposto a quello desiderato: meno lavoro manuale, ma più tempo impiegato a verificare, correggere e ricostruire operazioni.

Che cosa significa davvero governance degli agenti AI

La governance dell'intelligenza artificiale non consiste semplicemente nello stabilire un regolamento interno o chiedere ai dipendenti di utilizzare gli strumenti con attenzione.

Significa progettare meccanismi che rendano le azioni dell'AI autorizzate, osservabili, verificabili e, quando possibile, reversibili.

Un sistema di controllo ben progettato dovrebbe permettere di rispondere ad alcune domande fondamentali.

Chi può fare cosa? Un agente incaricato di preparare preventivi potrebbe consultare i prezzi, ma non modificarli. L'accesso a un'applicazione non dovrebbe implicare automaticamente il permesso di eseguire qualsiasi operazione.

Che cosa è successo? Se un dato viene modificato, deve essere possibile ricostruire quale agente abbia effettuato l'operazione, quando e con quali informazioni disponibili.

Quando serve una persona? Preparare un documento è diverso dall'inviarlo a un cliente. Alcune attività possono essere automatizzate completamente; altre richiedono approvazioni esplicite.

Quanto costa realmente? Il costo non riguarda soltanto l'utilizzo dei modelli AI, ma anche le integrazioni, la supervisione, gli errori, le correzioni e la manutenzione.

Come si interviene? Devono esistere procedure per sospendere gli agenti, revocare autorizzazioni e gestire eventuali incidenti.

Una cabina di regia centralizzata può facilitare questi controlli, ma non elimina automaticamente i problemi. Le regole devono essere tradotte in autorizzazioni tecniche e procedure effettivamente applicabili.

Il vero ROI dell'AI non si misura contando le attività automatizzate

Supponiamo che un agente AI permetta di risparmiare dieci ore mensili nella gestione delle richieste commerciali.

Il risultato sembra positivo.

Ma se il personale deve dedicare sei ore a verificarne le risposte e altre tre a correggere errori o incongruenze, il beneficio cambia radicalmente.

E non abbiamo ancora considerato i costi del servizio, delle integrazioni e della manutenzione.

Questo non significa che l'AI non convenga. Significa che il ritorno sull'investimento va misurato sull'intero processo, non sulla velocità della singola operazione.

Gli indicatori realmente utili comprendono tempo netto risparmiato, percentuale di attività completate correttamente, numero di interventi umani, costo per pratica gestita e frequenza degli incidenti.

Un agente che esegue cento operazioni può essere meno conveniente di uno che ne completa correttamente cinquanta, senza richiedere continue correzioni.

L'autonomia è un mezzo, non un risultato aziendale.

Da dove dovrebbe partire un'impresa

La governance non è una questione riservata alle multinazionali. Anche una PMI che collega un agente AI alla posta elettronica, al gestionale o ai documenti aziendali dovrebbe affrontarla.

Il percorso più sensato non parte dall'acquisto di una piattaforma sofisticata, ma dall'analisi dei processi.

Prima di introdurre nuovi agenti è utile:

1. Mappare le attività: identificare i passaggi ripetitivi, le decisioni e gli scambi di informazioni.
2. Classificare i rischi: distinguere le semplici attività di lettura dalle operazioni che modificano dati o producono effetti esterni.
3. Definire le responsabilità: stabilire chi autorizza, supervisiona e valuta ciascun agente.
4. Progettare i controlli: prevedere permessi limitati, registrazione delle operazioni e approvazioni dove necessarie.
5. Misurare i risultati: confrontare costi, tempi, qualità e affidabilità con il processo precedente.

Non tutte le aziende avranno bisogno di un control plane dedicato. In alcuni contesti basteranno integrazioni ben progettate, autorizzazioni appropriate e strumenti di monitoraggio già disponibili.

La scelta corretta dipende dalla complessità dei processi, dal numero di agenti e dalle conseguenze delle operazioni affidate loro.

La domanda non è quanti agenti AI puoi utilizzare

La direzione indicata da TCS evidenzia un cambiamento importante: man mano che gli agenti AI entrano nei sistemi aziendali, il tema centrale si sposta dalle singole capacità tecnologiche alla gestione complessiva del lavoro.

Per un'impresa, questo significa affrontare l'intelligenza artificiale come una questione organizzativa prima ancora che informatica.

Aggiungere agenti a processi poco chiari non li rende necessariamente migliori. Talvolta significa semplicemente automatizzare inefficienze già esistenti, rendendole più veloci e meno visibili.

Se domani un agente AI prendesse una decisione sbagliata nella tua azienda, sapresti individuare chi l'ha autorizzato, quali dati ha utilizzato e come interromperne le conseguenze?

È una domanda che vale la pena porsi prima, non dopo, l'automazione.

Un percorso di consulenza in digital innovation e AI può partire proprio da qui: analizzare i processi esistenti, individuare le opportunità realmente convenienti e progettare integrazioni e sistemi di controllo proporzionati ai rischi.

Perché il vero obiettivo non è avere un'azienda con più intelligenza artificiale.

È avere un'azienda che lavora meglio, anche grazie all'intelligenza artificiale.