生產力背後或暗藏治理風險！高盛(GS.US)限制非技術員工使用高級AI編程工具

智通財經APP獲悉，據報導，高盛(GS.US)在評估生產力和風險方面的擔憂後，已禁止部分員工使用專為程式設計的高階人工智慧(AI)工具。這意味著，這家華爾街巨頭在積極推動AI應用數月後，開始對部分AI工具的使用範圍進行重新劃定。

報導稱，此前數月，高盛銀行家一直在工作中使用Anthropic和微軟(MSFT.US)旗下GitHub的相關工具。但根據該行10月份更新的內部指引，目前這些工具的使用權限已經被限制在工程師群體。

這一變化已經引發部分員工的不滿。知情人士透露，一些交易員此前曾利用這些AI工具加快包括監控客戶交易流、對市場變化和持倉進行建模，以及製作文字和圖形內容等任務，因此，他們對突然收緊相關工具權限感到沮喪。

值得注意的是，這一做法與高盛今年7月份對AI的積極態度形成明顯反差。當時，高盛首席資訊官Marco Argenti曾公開談及所謂“vibe coding”，即非技術員工借助AI工具自行開發軟體或解決方案。按照當時的模式，交易員、銀行家等最熟悉業務需求的員工可以先利用AI快速建構解決方案，隨後再將這些成果交給高盛約1.2萬名工程師中的一員進行完善和投入實際使用。

這種模式的優勢在於，可以降低非技術員工開發軟體的門檻，同時讓工程團隊獲得更加明確的業務需求。對於交易員和銀行家而言，他們無需等待工程部門排期，就可以先利用AI搭建原型，從而快速驗證一個想法是否具有實際價值。

但隨著AI編碼代理的能力不斷提升，這種模式也帶來了新的風險：AI生成的程式碼可能被直接用於處理客戶資訊、交易數據或內部系統，而使用者本身未必具備充分的軟體工程能力來識別程式碼中的安全漏洞、邏輯錯誤或數據權限問題。

對於一家受到嚴格監管的全球性銀行而言，這種風險尤其敏感。生成式AI不僅可能產生錯誤答案，還可能涉及敏感資料洩漏、網路安全、智慧財產權、模型輸出可靠性以及監管記錄等問題。金融機構因此需要在提高員工生產力與保持風險控制之間尋找平衡。

高盛的最新政策實際上反映了華爾街在AI應用上的一個更大變化。過去兩年，金融機構普遍將生成式AI視為提高員工生產力的重要工具。隨著Claude、ChatGPT以及各種AI編碼代理的能力快速提升，AI已經從簡單的文字生成工具逐漸變成能夠編寫程式碼、分析資料、自動執行任務甚至建構完整工作流程的“智慧代理”。

但AI能力越強，企業面臨的治理問題也越複雜。有報導近期指出，企業內部員工使用未經批准的生成式AI工具正在形成所謂的“影子AI”(shadow AI)問題。企業面臨的主要風險包括機密資料失去控制、網路安全事件、模型輸出錯誤或偏見、智慧財產權問題，以及重要決策缺乏可靠記錄等。

因此，與其簡單地禁止員工使用AI，越來越多企業開始採取更加細分的治理方式，例如根據資料敏感程度、錯誤後果以及業務決策的重要性，對不同AI使用場景進行分類，並針對不同員工群體設定不同權限。從這一角度看，高盛目前將Claude Code和GitHub等高階程式工具主要交由工程師使用，也可以被視為其AI治理模式從“開放實驗”向“專業化管理”的轉變。