Content Benefit

Content Strategy | UX Writing | Content Design | Globalization | Communications

Fiducia quando l’AI agisce sola

Fiducia quando l’AI agisce sola

Cosa prevede Gartner sugli agenti AI entro il 2026

Ad agosto 2025 Gartner ha diffuso una stima che da allora compare in ogni presentazione commerciale: entro la fine del 2026 il 40% delle applicazioni aziendali ospiterà agenti specializzati su singole mansioni, contro meno del 5% rilevato l’anno precedente. La stessa analisi disegna una progressione in cinque tappe fino al 2029, quando almeno metà dei knowledge worker dovrebbe sviluppare capacità nuove per governare questi automi. Ai vertici delle software house viene concessa una finestra di tre o sei mesi per definire una linea.

Esiste però una seconda proiezione, pubblicata dalla medesima società appena due mesi prima, che nelle slide di vendita si vede molto meno: oltre il 40% delle iniziative agentiche verrà cancellato entro il 2027. Le cause elencate sono costi che sfuggono al controllo, ritorno economico nebuloso, presidi di rischio insufficienti. Compare anche il fenomeno dell’agent washing, cioè il riposizionamento di chatbot e automazioni robotiche già esistenti sotto un’etichetta alla moda: su migliaia di fornitori che si proclamano agentici, gli analisti ne considerano genuini circa 130.

Due cifre quasi gemelle che puntano in direzioni opposte. La prima misura l’adozione, la seconda l’abbandono. In mezzo ci sta il lavoro di chi progetta le interfacce.

Quanti compiti d’ufficio porta a termine un agente senza aiuto

Il benchmark TheAgentCompany, presentato da un gruppo di ricerca guidato da Frank F. Xu e Graham Neubig, ricostruisce una piccola azienda simulata con colleghi virtuali, repository di codice, intranet e mansioni concatenate. Il modello migliore chiude in autonomia il 30% degli incarichi. Le attività brevi riescono con una certa regolarità, quelle lunghe e ramificate restano fuori portata.

Il dato va letto insieme alla natura delle sequenze. Se ogni passaggio riesce nove volte su dieci, dopo dieci passaggi la probabilità di arrivare in fondo senza incidenti scende sotto il 35%. Un assistente conversazionale che sbaglia produce una risposta da correggere; un sistema che opera sul database lascia una scia di conseguenze già scritte. La differenza sta tutta lì, e ha poco a che vedere con la qualità del modello linguistico sottostante.

La fiducia si calibra, non si guadagna una tantum

Chi si occupa di fattori umani studia questo tema da decenni. Il saggio di John D. Lee e Katrina A. See del 2004 resta il riferimento: conta la corrispondenza fra la fiducia accordata e l’affidabilità reale del sistema, molto prima della sua quantità. Quando la stima supera le capacità effettive si ottiene un affidamento eccessivo, con controlli che si allentano proprio dove servirebbero; quando resta al di sotto, lo strumento viene ignorato e l’investimento si spreca.

La conseguenza progettuale è netta. Un’interfaccia che comunica sicurezza costante educa male, perché appiattisce la percezione del rischio su un unico livello. Serve invece un’esposizione onesta dei margini di incertezza, differenziata per tipo di operazione: verificare la disponibilità di una sala riunioni e inviare un bonifico non possono presentarsi con lo stesso tono.

Chi valuta il proprio lavoro non misura il tempo che impiega

Nel luglio 2025 METR ha pubblicato un esperimento randomizzato su 16 sviluppatori esperti impegnati su 246 attività reali nei loro repository open source. Con gli strumenti di AI a disposizione, il completamento ha richiesto il 19% di tempo in più. Prima di cominciare i partecipanti si aspettavano un guadagno del 24%; al termine, dopo aver vissuto il rallentamento, stimavano ancora un’accelerazione del 20%.

Lo scarto fra sensazione e cronometro vale come avvertimento metodologico. Le dichiarazioni raccolte in fase di ricerca sull’efficacia percepita di un agente vanno trattate come materiale sul vissuto, mai come misura di produttività. Chi progetta farebbe bene ad affiancare sempre una rilevazione oggettiva, per quanto grezza.

Chi risponde quando il software prende la decisione sbagliata

Il caso Moffatt contro Air Canada, deciso nel febbraio 2024 dal tribunale civile della British Columbia, ha stabilito un punto che in Europa vale la pena tenere a mente: l’informazione errata fornita dal chatbot impegna la compagnia esattamente come quella scritta su una pagina statica. La difesa aveva sostenuto che il sistema fosse un soggetto distinto. L’argomento è stato respinto.

L’AI Act rafforza l’impostazione per i sistemi ad alto rischio, dove l’articolo 14 impone una sorveglianza umana effettiva, con persone messe nelle condizioni di comprendere il funzionamento, interpretare gli esiti e interrompere l’esecuzione. Una spunta apposta senza reale possibilità di verifica non soddisfa il requisito. Su questo terreno il lavoro editoriale diventa parte della conformità, perché la comprensibilità di un avviso decide se il presidio esiste davvero. Ne avevo accennato ragionando su chi risponde dei riassunti generati da Google.

Due ritirate raccontate in pubblico

Nel luglio 2025 l’agente di Replit ha eliminato il database di produzione di un utente durante un blocco delle modifiche, per poi restituire ricostruzioni inesatte dell’accaduto. La vicenda ha spinto l’azienda ad annunciare separazione fra ambienti e ripristino a un clic.

Poco prima, a maggio, Klarna ha rivisto la scelta di affidare quasi per intero l’assistenza clienti a un sistema automatico, riaprendo posizioni umane dopo un calo nella qualità percepita del servizio. Il vertice ha ammesso pubblicamente l’errore di valutazione. Due episodi differenti che convergono su una stessa lezione: il collaudo su casi felici non racconta nulla di come si comporta un dispositivo quando la situazione si complica.

Sette leve di interfaccia che rendono governabile un agente

Il repertorio che uso quando disegno flussi di questo tipo si riduce a poche voci ricorrenti.

  • Perimetro dichiarato: cosa il sistema può toccare e cosa no, scritto in chiaro prima dell’avvio, non sepolto in un pannello di impostazioni.
  • Anteprima dell’intenzione: il piano d’azione mostrato prima dell’esecuzione, con le operazioni irreversibili evidenziate.
  • Granularità del consenso: autorizzazioni distinte per lettura, scrittura e invio verso l’esterno, mai un unico interruttore generale.
  • Reversibilità: annullamento reale, testato, raggiungibile in un gesto, insieme a una copia dello stato precedente.
  • Tracciabilità leggibile: un registro che una persona comune riesce a scorrere, non solo un log tecnico.
  • Incertezza esposta: segnalazione esplicita quando il sistema procede su una supposizione.
  • Uscita sempre disponibile: interruzione immediata e passaggio a un essere umano identificabile.

Sono quasi tutte questioni di parole, il che rende la scrittura d’interfaccia una componente di sicurezza e non un abbellimento finale. Vale anche per i messaggi di errore, che in un contesto agentico diventano il momento in cui si decide se qualcuno interverrà in tempo.

Cosa automatizzo io e cosa resta nelle mie mani

Nel mio lavoro quotidiano gli automatismi si fermano a due categorie: raccolta di informazioni e avvisi. Rassegne tematiche, monitoraggio di fonti, promemoria, confronti fra versioni di un testo. Tutto ciò che produce materiale da leggere, mai un’azione che arrivi a un cliente o modifichi un ambiente attivo. La pubblicazione, l’invio, la messa in produzione passano da me.

La motivazione ha poco di eroico: rispondo personalmente di ciò che esce dal mio studio, e una spiegazione del tipo “ha deciso l’automa” non rientra fra le opzioni disponibili. Venticinque anni fra localizzazione e prodotti digitali mi hanno insegnato che le sviste peggiori non arrivano mai annunciate da un errore rosso a schermo. Passano inosservate, con un’aria perfettamente normale, e vengono scoperte da qualcun altro.

Prudenza, oppure semplice lentezza?

Il sospetto di essere in ritardo esiste, e non lo nascondo. Un calendario che promette il 40% delle applicazioni aziendali popolate di agenti entro pochi mesi mette una certa pressione addosso a chiunque lavori con i contenuti digitali.

Poi guardo l’altra previsione, quella sui progetti che verranno chiusi, e la fretta si stempera. La domanda utile riguarda la capacità di reggere le conseguenze, prima ancora della velocità di adozione: quali azioni posso lasciare a un sistema autonomo continuando a rispondere del risultato davanti a chi mi paga. Finché l’elenco resta breve, preferisco tenerlo breve. Le deleghe si allargano quando esistono strumenti di verifica all’altezza, e quel giorno arriverà. Semplicemente non oggi, non per una consegna, non per una pubblicazione.

Risorse correlate

Chiara Bonifazi