قد تكمن مخاطر الحوكمة خلف الإنتاجية! قامت شركة جولدمان ساكس (GS.US) بتقييد استخدام أدوات البرمجة المتقدمة للذكاء الاصطناعي من قبل الموظفين غير التقنيين

أفاد تطبيق أخبار التمويل الذكي بأن Goldman Sachs (GS.US) قام، بعد تقييم المخاوف المتعلقة بالإنتاجية والمخاطر، بمنع بعض الموظفين من استخدام أدوات الذكاء الاصطناعي (AI) المتقدمة المصممة خصيصًا للبرمجة. وهذا يعني أن عملاق وول ستريت بدأ، بعد أشهر من الدفع الإيجابي باتجاه تطبيقات الذكاء الاصطناعي، في إعادة تحديد نطاق استخدام بعض أدوات الذكاء الاصطناعي.

وبحسب التقارير، فإن المصرفيين في Goldman Sachs استخدموا في الأشهر الماضية أدوات تابعة لـ Anthropic وأدوات من GitHub التابعة لـ Microsoft (MSFT.US) في أعمالهم. لكن وفقاً لتحديث الدليل الداخلي للبنك في أكتوبر، أصبح استخدام هذه الأدوات الآن محصوراً على المهندسين فقط.

هذا التغيير أثار استياء بعض الموظفين. ووفقاً لمصادر مطلعة، فإن بعض المتداولين كانوا يستخدمون هذه الأدوات الذكية لتسريع مهامهم، بما في ذلك مراقبة تدفقات العملاء وتقديم النماذج للتغيرات السوقية والمراكز، وكذلك إعداد المحتوى النصي والرسومي، ولهذا فإنهم يشعرون بالإحباط بسبب القيود المفروضة فجأة على هذه الأدوات.

ومن الجدير بالذكر أن هذا الإجراء يتناقض بشكل واضح مع الموقف الإيجابي الذي تبنته Goldman Sachs تجاه الذكاء الاصطناعي في يوليو من هذا العام. ففي ذلك الوقت، تحدث رئيس قسم المعلومات في البنك Marco Argenti علنًا عن ما يسمى "vibe coding"، أي قيام الموظفين غير التقنيين بتطوير البرامج أو الحلول بأنفسهم بمساعدة أدوات الذكاء الاصطناعي. ووفقاً للنموذج المعتمد في ذلك الوقت، كان بمقدور المتداولين والمصرفيين—الذين يدركون جيداً متطلبات الأعمال—بناء حلولهم بسرعة بواسطة الذكاء الاصطناعي، ثم تسليمها لأحد مهندسي البنك البالغين حوالي 12,000 مهندس لتقوم بتحسينها واعتمادها فعلياً.

تكمن ميزة هذا النموذج في أنه يقلل من عتبة تطوير البرامج للموظفين غير التقنيين، كما يمنح فرق الهندسة متطلبات عمل أكثر وضوحًا. وبالنسبة للمتداولين والمصرفيين، لم يعد عليهم انتظار دورهم في ترتيب أولويات قسم الهندسة، حيث بإمكانهم بناء نموذج أولي عبر الذكاء الاصطناعي بسرعة لاختبار ما إذا كانت أفكارهم تُحقق قيمة واقعية.

لكن مع تزايد قدرات وكلاء ترميز الذكاء الاصطناعي، ظهر أيضاً مخاطر جديدة: فقد يتم استخدام الشيفرة التي ينتجها الذكاء الاصطناعي مباشرة في معالجة معلومات العملاء وبيانات التداول أو أنظمة البنك الداخلية، بينما قد يفتقر المستخدمون أنفسهم إلى الكفاءة الكافية في هندسة البرمجيات لاكتشاف ثغرات الأمان أو أخطاء المنطق أو مشكلات صلاحية البيانات في الشيفرة.

وبالنسبة لبنك عالمي يخضع لرقابة صارمة، فإن هذه المخاطر تكتسب حساسية خاصة. فالذكاء الاصطناعي التوليدي قد لا ينتج فقط إجابات خاطئة، بل وقد يسبب تسريب البيانات الحساسة أو مشاكل في الأمن السيبراني أو انتهاك حقوق الملكية الفكرية أو ضعف موثوقية المخرجات أو حتى نقص في التنظيم والتوثيق. ولهذا، يجب على المؤسسات المالية أن تجد توازناً بين رفع إنتاجية الموظفين والحفاظ على السيطرة على المخاطر.

تعكس السياسة الأخيرة لـ Goldman Sachs في الواقع تغييراً أكبر يجري في وول ستريت حول تطبيقات الذكاء الاصطناعي. ففي العامين الماضيين، تعتبر المؤسسات المالية الذكاء الاصطناعي التوليدي أداة هامة لزيادة إنتاجية الموظفين. ومع تسارع نمو قدرات Claude وChatGPT ووكلاء الترميز من الذكاء الاصطناعي، تطور الذكاء الاصطناعي من مجرد أداة توليد نصوص بسيطة إلى وكيل ذكي قادر على كتابة الشيفرة وتحليل البيانات وأتمتة المهام وبناء سير عمل كامل.

لكن كلما زادت قدرات الذكاء الاصطناعي، أصبحت مشكلات إدارة الحوكمة أكثر تعقيدًا. وقد أشارت تقارير مؤخراً إلى أن استخدام الموظفين للأدوات الذكية غير المصرح بها داخل المؤسسات أدى إلى ظهور ما يعرف بمشكلة "الذكاء الاصطناعي الخفي" (shadow AI). وتشمل المخاطر الرئيسية التي تواجهها الشركات فقدان السيطرة على البيانات السرية، وحوادث الأمن السيبراني، والأخطاء أو التحيّز في المخرجات، وقضايا حقوق الملكية الفكرية، فضلاً عن غياب توثيق موثوق لقرارات الأعمال الهامة.

لذلك، وبدلاً من حظر استخدام الذكاء الاصطناعي بشكل مطلق، تتجه المزيد من الشركات لاعتماد نهج أكثر تفصيلاً في الحوكمة، فتقوم بتصنيف استخدامات الذكاء الاصطناعي حسب درجة حساسية البيانات، وعواقب الأخطاء، وأهمية القرارات، وتحدد صلاحية كل مجموعة من الموظفين بحسب تلك التصنيفات. ومن هذه الزاوية، فإن توجه Goldman Sachs حالياً لاقتصار أدوات البرمجة المتقدمة مثل Claude Code وGitHub على المهندسين يعدّ تحولاً في نمط حوكمة الذكاء الاصطناعي من "تجربة مفتوحة" إلى "إدارة تخصصية".