Ishlab chiqaruvchanlik ortida boshqaruv xatarlari yashirin bo‘lishi mumkin! Goldman Sachs (GS.US) texnik bo‘lmagan xodimlarga ilg‘or AI dasturlash vositalaridan foydalanishni chekladi

Zhihui Moliyaviy Yangiliklar Ilovasi ma'lumotlariga ko'ra, xabar qilinishicha, Goldman Sachs (GS.US) mahsuldorlik va xavf-xatarlar bilan bog'liq tashvishlarni baholagandan so'ng, dasturlash uchun mo'ljallangan ilg'or sun’iy intellekt (AI) vositalaridan ba’zi xodimlar foydalanishini taqiqladi. Bu, Wall Street giganti bir necha oy AI qo‘llanilishini faol ilgari surganidan so‘ng, ayrim AI vositalarining qo‘llanish doirasini qayta belgilay boshlaganini anglatadi.

Xabarlarga ko‘ra, so‘nggi bir necha oy davomida Goldman Sachs bankirlari Anthropic va Microsoft (MSFT.US) tarkibidagi GitHub vositalaridan ishda foydalanishgan. Lekin bankning oktyabr oyidagi yangilangan ichki ko'rsatmasiga ko'ra, hozir ushbu vositalardan faqat muhandislar guruhi foydalanishi mumkin.

Ushbu o‘zgarish ba’zi xodimlarning noroziligiga sabab bo‘ldi. Mavzuga yaqin manbalar xabar qilishicha, ayrim treyderlar ilgari ushbu AI vositalaridan mijozlar savdo oqimini monitoring qilish, bozor o‘zgarishlari va pozitsiyalarni modellashtirish, hamda matn hamda grafik kontent yaratish uchun foydalangan, shuning uchun ular vositalardan foydalanish to‘satdan cheklangani uchun xafa bo‘lishmoqda.

Ta'kidlash joizki, ushbu amaliyot joriy yil iyul oyida Goldman Sachsning AI bo‘yicha faol yondashuvidan keskin farq qiladi. O‘shanda, Goldman Sachs Bosh axborot direktori Marco Argenti "vibe coding" haqida ochiq gapirgan edi, ya’ni texnik bo‘lmagan xodimlar AI vositalar yordamida mustaqil dastur yoki yechim ishlab chiqishlari mumkin. O‘sha model bo‘yicha, biznes ehtiyojlarini eng yaxshi tushunadigan treyder va bankirlar avvalo AI yordamida tez prototip yaratishi va keyin bu natijani Goldman Sachsdagi taxminan 12 ming nafar muhandisdan biriga takomillashtirish va amalda joriy etish uchun topshirishi mumkin edi.

Bu modelning afzalliklari shundaki, texnik bo‘lmagan xodimlar uchun dasturiy mahsulot yaratish osonlashar va muhandislar uchun ham biznes ehtiyojlari aniq bo‘lardi. Treyder hamda bankirlar uchun esa, muhandislik bo'limi navbatini kutmay AI yordamida tez prototip yaratilishi va g‘oyaning amaliy qiymatini tezda tekshirish imkonini beradi.

Biroq AI kodlash agentlarining imkoniyati ortib borishi bilan, bu model yangi xavflarni ham keltirib chiqardi: AI yaratgan kod bevosita mijoz ma'lumotlari, savdo ma'lumotlari yoki ichki tizimlarga ishlov berishda foydalanilishi mumkin, biroq foydalanuvchining o‘zi dasturiy ta'minot xavfsizligi, mantiqiy xatolar yoki ma’lumotga ruxsat muammolarini aniqlash uchun yetarli bilimga ega bo‘lmasligi mumkin.

Qattiq tartibga solinadigan global bank uchun bu juda nozik xavf. Generativ AI nafaqat noto‘g‘ri javoblar ishlab chiqarishi, balki maxfiy ma'lumotlarning tarqalishi, kibergigiena, intellektual mulk, modellarning ishonchliligi, hamda nazorat hisobotlariga taalluqli masalalarni keltirib chiqarishi mumkin. Shu sababli, moliyaviy institutlar xodimlarning mahsuldorligini oshirish va xavfsizlikni saqlash o‘rtasida muvozanat topishi zarur.

Goldman Sachsning yangi siyosati aslida Wall Streetda AI qo‘llanilishi bo‘yicha kattaroq bir o‘zgarishni aks ettiradi. So‘nggi ikki yil ichida moliyaviy tashkilotlar generativ AIni xodimlar mahsuldorligini oshiruvchi muhim vosita sifatida ko‘rgan edi. Claude, ChatGPT va turli AI kodlash agentlarining imkoniyati tez o‘sishi natijasida, AI oddiy matn ishlab chiqarishdan tortib, kod yozish, ma’lumotlarni tahlil qilish, avtomatlashtirilgan vazifalarni bajarish hamda to‘liq ish oqimini yaratishga qodir “aqlli agent”ga aylanib bormoqda.

Ammo AI imkoniyati kuchaygani sayin, korxonalar uchun boshqaruv masalalari ham murakkablashmoqda. Yaqinda xabarlarga ko‘ra, xodimlar tomonidan korxona ichida ruxsat etilmagan generativ AI vositalari qo‘llanishi “soya AI” (shadow AI) deb ataluvchi muammoni yuzaga keltirmoqda. Asosiy xavflar qatoriga maxfiy ma’lumot nazorati yo‘qolishi, kiberxavfsizlik hodisalari, model natijalarining xatoligi yoki tarafkashligi, intellektual mulk muammolari hamda muhim qarorlar uchun ishonchli yozuvlarning yo‘qligi kiradi.

Shu sababli, oddiygina xodimlarga AI dan foydalanishni taqiqlash o‘rniga, tobora ko‘proq kompaniyalar batafsil boshqaruv yondashuviga o‘tmoqda, masalan, ma’lumotlarning maxfiyligi darajasi, xato oqibatlari va biznes qarorlar ahamiyatiga ko‘ra, AI ishlatiladigan holatlarni tasniflash va turli xodim guruhlari uchun turli ruxsatlarni belgilash. Bu nuqtai nazardan, Goldman Sachs hozirda Claude Code va GitHub kabi ilg'or dasturlash vositalaridan asosan muhandislarning foydalanishiga ruxsat bergani, AI boshqaruv modelining “ochiq eksperiment”dan “kasbiy boshqaruv”ga o‘tishga misol bo‘la oladi.