Derrière la productivité, des risques de gouvernance pourraient être cachés ! Goldman Sachs (GS.US) limite l'utilisation d'outils de programmation avancés basés sur l'IA pour les employés non techniques

Selon des informations de ZHITONG Finance APP, il a été rapporté que Goldman Sachs (GS.US), après avoir évalué les inquiétudes concernant la productivité et les risques, a interdit à certains employés d’utiliser des outils avancés d’intelligence artificielle (IA) spécialement conçus pour la programmation. Cela signifie que, quelques mois après avoir activement encouragé l’adoption de l’IA, ce géant de Wall Street commence à redéfinir le champ d’utilisation de certains outils IA.

Selon les rapports, ces derniers mois, les banquiers de Goldman Sachs utilisaient des outils liés à Anthropic et GitHub, une filiale de Microsoft (MSFT.US), pendant leur travail. Mais selon la mise à jour interne d’octobre, l’utilisation de ces outils est désormais réservée au groupe des ingénieurs.

Ce changement a déjà suscité du mécontentement parmi certains employés. Selon des sources informées, certains traders utilisaient auparavant ces outils d’IA pour accélérer des tâches telles que la surveillance des flux de transactions des clients, la modélisation des variations de marché et des positions, ainsi que la production de contenus écrits et graphiques. Par conséquent, ils sont frustrés par la restriction soudaine de ces outils.

Il est important de noter que cette approche contraste nettement avec l’attitude positive affichée par Goldman Sachs à l’égard de l’IA en juillet dernier. À cette époque, le directeur de l’information Marco Argenti avait publiquement évoqué le concept de “vibe coding”, soit la possibilité pour des employés non techniques de développer eux-mêmes des logiciels ou des solutions à l’aide d’outils IA. Selon le modèle en vigueur à ce moment-là, les traders, banquiers et autres employés les plus familiers avec les besoins métier pouvaient d’abord utiliser l’IA pour construire rapidement des solutions, puis transmettre ces résultats à l’un des quelque 12 000 ingénieurs de Goldman Sachs pour les perfectionner et les mettre en application réelle.

L’avantage de ce mode de fonctionnement est de réduire la barrière à l’entrée pour le développement de logiciels par des employés non techniques, tout en permettant à l’équipe d’ingénieurs de mieux comprendre les besoins métier. Pour les traders et banquiers, ils n’ont pas besoin d’attendre le calendrier des ingénieurs pour utiliser l’IA afin de créer un prototype et valider rapidement si une idée a une valeur pratique.

Cependant, avec les progrès rapides des agents de codage IA, ce modèle amène aussi de nouveaux risques : le code généré par l’IA pourrait être directement utilisé pour traiter des informations clients, des données de transaction ou des systèmes internes, alors que les utilisateurs eux-mêmes n’ont pas nécessairement les compétences en ingénierie logicielle pour détecter les failles de sécurité, erreurs logiques ou problèmes de droits sur les données du code généré.

Pour une banque mondiale fortement régulée, ce type de risque est particulièrement sensible. L’IA générative peut non seulement produire des réponses erronées, mais aussi poser des problèmes de fuite de données sensibles, de cybersécurité, de propriété intellectuelle, de fiabilité des résultats et d’archivage réglementaire. Les institutions financières doivent ainsi rechercher un équilibre entre l’accroissement de la productivité et le maintien du contrôle des risques.

La récente politique de Goldman Sachs reflète en réalité un changement majeur dans l’adoption de l’IA par Wall Street. Au cours des deux dernières années, les institutions financières considèrent l’IA générative comme un outil important pour améliorer la productivité. Grâce à des agents tels que Claude, ChatGPT et divers agents de codage IA en constante évolution, l’IA est passée d’un outil de génération de texte simple à un “agent intelligent” capable d’écrire du code, d’analyser des données, d’automatiser des tâches voire de créer des workflows complets.

Mais plus les capacités de l’IA augmentent, plus les problématiques de gouvernance deviennent complexes. Des rapports récents soulignent que l’utilisation non autorisée d’outils IA génératifs par des employés (“shadow AI”) est un nouveau problème pour les entreprises. Les risques majeurs incluent la perte de contrôle sur les données confidentielles, des incidents de cybersécurité, des erreurs ou biais dans les résultats des modèles, la propriété intellectuelle et l’absence de traçabilité fiable pour les décisions importantes.

Par conséquent, plutôt que d’interdire purement et simplement l’utilisation de l’IA, de plus en plus d’entreprises adoptent une gouvernance plus nuancée : elles classent les usages selon la sensibilité des données, les conséquences d’une erreur et l’importance des décisions métier, et accordent des droits différenciés selon les profils d’employés. Sous cet angle, le fait que Goldman Sachs réserve actuellement des outils de programmation avancés comme Claude Code ou GitHub principalement aux ingénieurs peut être vu comme une transition de leur modèle de gouvernance IA d’une phase “d’expérimentation ouverte” à une “gestion spécialisée”.