Dietro la produttività potrebbero nascondersi rischi di governance! Goldman Sachs (GS.US) limita l'uso di strumenti avanzati di programmazione AI da parte dei dipendenti non tecnici

Secondo quanto riportato da Zhihui Finanza APP, Goldman Sachs (GS.US) ha vietato ad alcuni dipendenti l’utilizzo di avanzati strumenti di intelligenza artificiale (AI) progettati specificamente per la programmazione, dopo aver valutato preoccupazioni legate alla produttività e ai rischi. Ciò significa che, dopo mesi di forte impulso all’adozione dell’AI, il colosso di Wall Street sta ridefinendo l’ambito di applicazione di alcuni strumenti AI.

Secondo la notizia, nei mesi scorsi i banchieri di Goldman Sachs hanno utilizzato strumenti correlati ad Anthropic e Microsoft (MSFT.US), tra cui GitHub, durante il lavoro. Tuttavia, secondo una direttiva interna aggiornata ad ottobre, l’utilizzo di questi strumenti è ora limitato ai soli ingegneri.

Questo cambiamento ha già suscitato il malcontento di alcuni dipendenti. Secondo fonti interne, alcuni trader avevano precedentemente utilizzato tali strumenti AI per accelerare attività come il monitoraggio dei flussi di trading dei clienti, la modellazione dei cambiamenti di mercato e delle posizioni, nonché per la produzione di contenuti testuali e grafici; di conseguenza, si dichiarano frustrati dalla restrizione improvvisa dell’accesso a questi strumenti.

Vale la pena notare che questo approccio contrasta marcatamente con la posizione favorevole verso l’AI assunta da Goldman Sachs nel luglio di quest’anno. In quel periodo, il Chief Information Officer Marco Argenti aveva discusso pubblicamente il concetto di “vibe coding”, ovvero la possibilità per dipendenti non tecnici di sviluppare software o soluzioni grazie al supporto di strumenti AI. Secondo il modello di allora, trader, banchieri e altri dipendenti a contatto col business avrebbero potuto costruire rapidamente una soluzione con l’AI, per poi farla perfezionare e implementare da uno dei circa 12.000 ingegneri di Goldman Sachs.

Il vantaggio di questo modello consiste nel ridurre la barriera d’accesso allo sviluppo software per i non tecnici, permettendo al contempo ai team di ingegneri di ricevere requisiti di business più chiari. Per trader e banchieri, ciò significava poter creare in autonomia un prototipo mediante l’AI senza attendere la pianificazione del reparto ingegneria, validando rapidamente il valore potenziale di una nuova idea.

Tuttavia, con il continuo miglioramento delle capacità degli agenti di coding AI, questo modello ha portato anche nuovi rischi: il codice generato dall’AI potrebbe essere utilizzato direttamente per gestire informazioni dei clienti, dati di trading o sistemi interni, ma gli utilizzatori potrebbero non avere sufficienti competenze di ingegneria software per identificare vulnerabilità di sicurezza, errori logici o problematiche di autorizzazione sui dati.

Per una banca globale soggetta a severa regolamentazione, questi rischi sono particolarmente delicati. L’AI generativa non solo può produrre risposte errate, ma può anche comportare potenziali fughe di dati sensibili, problemi di cybersicurezza, proprietà intellettuali, affidabilità del risultato del modello e conformità nelle registrazioni regolatorie. Le istituzioni finanziarie devono quindi trovare un equilibrio tra l’aumento della produttività dei dipendenti e il mantenimento del controllo del rischio.

La nuova politica di Goldman Sachs riflette in realtà un cambiamento più ampio relativo all’adozione dell’AI a Wall Street. Negli ultimi due anni, le istituzioni finanziarie hanno generalmente visto l’AI generativa come uno strumento chiave per incrementare la produttività. Con il rapido progresso delle capacità di Claude, ChatGPT e dei vari agenti di coding AI, l’AI è passata dall’essere uno strumento base di generazione testuale a un “agente intelligente” in grado di scrivere codice, analizzare dati, eseguire automaticamente compiti e persino costruire flussi di lavoro completi.

Tuttavia, maggiore è la potenza dell’AI, più complessi diventano i problemi di governance aziendale. Recenti report hanno evidenziato il fenomeno della “shadow AI”, ovvero l’utilizzo di strumenti AI generativi non approvati dai dipendenti all’interno delle aziende. I principali rischi includono la perdita di controllo su dati riservati, incidenti di sicurezza informatica, errori o bias nei risultati prodotti dal modello, problematiche di proprietà intellettuale e mancanza di registrazioni affidabili nelle decisioni critiche.

Di conseguenza, invece di vietare semplicemente l’uso dell’AI ai dipendenti, un numero crescente di aziende sta adottando metodi di governance più dettagliati, classificando gli scenari d’uso AI in base al livello di sensibilità dei dati, alla gravità dei potenziali errori e all’importanza delle decisioni di business, e assegnando diversi livelli di autorizzazione alle diverse categorie di dipendenti. In quest’ottica, la scelta attuale di Goldman Sachs di riservare strumenti avanzati come Claude Code e GitHub principalmente agli ingegneri può essere interpretata come una transizione della sua strategia di governance AI da una “sperimentazione aperta” a una “gestione specializzata”.