Vitalikin uzun məqaləsini başa düşmək: Ağıllı insanlar niyə "axmaq qaydalara" sadiq qalır?

Hər şeyi izah edə biləcək kimi görünən "Qalaktika Beyni" nəzəriyyələri, əslində ən təhlükəli universal bəhanələrdir. Əksinə, sərt və qaydacı səslənən "yüksək müqavimətli" qaydalar, özümüzü aldatmağımızın qarşısını alan sonuncu müdafiə xəttidir.

Müəllif: Zhixiong Pan

Bir neçə həftə əvvəl Vitalik tərəfindən dərc olunan Galaxy Brain Resistance adlı məqalə əslində olduqca çətin başa düşüləndir və yaxşı bir şərh də görmədim, ona görə də mən cəhd edim.

Axı, Vibe Coding ifadəsinin yaradıcısı Karpathy də bu məqaləni oxuyub qeydlər aparıbsa, deməli, burada xüsusi bir məqam var.

Əvvəlcə başlıqda olan Galaxy Brain və Resistance nə deməkdir, bunu izah edəndən sonra məqalənin əsas ideyasını başa düşəcəksiniz.

1️⃣ Galaxy Brain-in Azərbaycan dilində tərcüməsi "Qalaktika Beyni"dir, amma əslində bu, internetdə yaranmış bir meme-dir, (🌌🧠) birləşməsi kimi bir şəkil, yəqin ki, görmüsünüz.

Əvvəlcə bu ifadə müsbət mənada işlədilirdi, yəni qarşı tərəfin fikrinin çox ağıllı olduğunu tərifləmək üçün. Amma sonradan çox istifadə olunduğu üçün bir növ ironiyaya çevrildi, əsas mənası isə "çox düşünmüsən, məntiq çox dolaşıqdır" oldu.

Vitalik burada 🌌🧠 ifadəsini xüsusi olaraq "yüksək intellektdən istifadə edərək məntiqi akrobatika etmək və əsassız şeyləri böyük məntiqlə əsaslandırmaq" davranışını nəzərdə tutur. Məsələn:

- Əslində pul qazanmaq üçün kütləvi ixtisarlar edilir, amma bunu "cəmiyyətə yüksək keyfiyyətli kadrlar təqdim etmək" kimi təqdim edirlər.

- Əslində havadan coin buraxıb insanları aldadırlar, amma bunu "decentralizasiya ilə qlobal iqtisadiyyata güc vermək" kimi göstərirlər.

Bunların hamısı "Qalaktika Beyni" tipli düşüncə sayılır.

2️⃣ Bəs Resistance (müqavimət) nə deməkdir? Bu anlayış asanlıqla qarışıq ola bilər, populyar dildə desək, "manipulyasiyadan qorunma qabiliyyəti" və ya "aldadılmamaq bacarığı" kimi başa düşülə bilər.

Ona görə də Galaxy Brain Resistance, yəni Resistance to [becoming] Galaxy Brain, "Qalaktika Beyni (boşboğazlıq) olmağa qarşı müqavimət" deməkdir.

Daha dəqiq desək, bu, müəyyən düşüncə və ya arqumentasiya tərzinin "istənilən nəticəni sübut etmək üçün sui-istifadə olunmasının" nə qədər asan və ya çətin olduğunu təsvir edir.

Bu "müqavimət" müəyyən bir "nəzəriyyəyə" aid ola bilər, məsələn,

- Aşağı müqavimətli nəzəriyyə: Bir az təhlil etsən, dərhal tamamilə absurd "Qalaktika Beyni" məntiqinə çevrilə bilər.

- Yüksək müqavimətli nəzəriyyə: Necə təhlil etsən də, öz formasını qoruyur, absurd məntiqə çevrilmək çox çətindir.

Məsələn, Vitalik deyir ki, onun idealındakı cəmiyyətin qanunlarında bir qırmızı xətt olmalıdır: Yalnız müəyyən bir davranışın konkret zərərçəkənə necə zərər və ya risk yaratdığını aydın şəkildə izah etmək mümkün olduqda, onu qadağan etmək olar. Bu standart "Qalaktika Beyni"nə qarşı yüksək müqavimətlidir, çünki "mən subyektiv olaraq xoşlamıram", "əxlaqa ziddir" kimi sonsuz dartıla bilən və ya qeyri-müəyyən səbəbləri qəbul etmir.

3️⃣ Vitalik məqalədə bir çox nümunə gətirir, hətta tez-tez eşitdiyimiz nəzəriyyələrdən, məsələn, "uzunmüddətçilik" və "qaçılmazlıq"dan bəhs edir.

"Uzunmüddətçilik" 🌌🧠 tipli düşüncənin təsirinə qarşı müqaviməti çox aşağıdır, demək olar ki, "boş çek" kimidir. Çünki "gələcək" çox uzaq və qeyri-müəyyəndir.

- Yüksək müqavimətli ifadə: "Bu ağac 10 ildən sonra 5 metr böyüyəcək." Bu yoxlanıla biləndir, boşboğazlıq etmək çətindir.

- Aşağı müqavimətli "uzunmüddətçilik": "Baxmayaraq ki, indi çox qeyri-etik bir iş görürəm (məsələn, bir hissəni təmizləmək və ya müharibə başlatmaq), amma bu, 500 il sonra insanlığın utopik həyat yaşaması üçündür. Hesablamalarıma görə, gələcəkdə xoşbəxtliyin ümumi miqdarı sonsuzdur, ona görə də indiki qurbanlar nəzərə alınmır."

Görürsünüz, vaxtı kifayət qədər uzatsanız, istənilən indiki pis əməlinizi əsaslandıra bilərsiniz. Vitalikin dediyi kimi: "Əgər arqumentiniz istənilən şeyi əsaslandıra bilirsə, deməli, heç nəyi əsaslandıra bilmir."

Ancaq Vitalik də etiraf edir ki, "uzunmüddət vacibdir", o, tənqid etdiyi şey "həddindən artıq qeyri-müəyyən, yoxlanıla bilməyən uzaq gəlir vədləri ilə indiki aydın zərəri ört-basdır etməkdir".

Başqa bir problemli sahə isə "qaçılmazlıq"dır (Inevitabilism).

Bu, həmçinin Silicon Valley və texnologiya dünyasında ən çox istifadə olunan müdafiə üsuludur.

İfadə belədir: "AI-nin insan əməyini əvəz etməsi tarixi qaçılmazlıqdır, mən etməsəm, başqası edəcək. Ona görə də indi AI-ni aqressiv şəkildə inkişaf etdirməyim pul qazanmaq üçün deyil, tarixi tendensiyaya uyğunlaşmaq üçündür."

Müqaviməti harada aşağıdır? Bu, insanın məsuliyyət hissini tamamilə aradan qaldırır. Əgər "qaçılmazdırsa", mənim yaratdığım dağıntıya görə məsuliyyət daşımıram.

Bu da tipik bir Qalaktika Beyni nümunəsidir: "Pul qazanmaq / hakimiyyət əldə etmək" şəxsi istəklərini "mən tarixi vəzifəni yerinə yetirirəm" kimi təqdim etmək.

4️⃣ Bəs bu "ağıllı insanların tələləri" ilə necə mübarizə aparmalı?

Vitalikin təklif etdiyi həll gözlənilmədən sadədir, hətta bir az "ağılsız" görünür. O düşünür ki, nə qədər ağıllı olsanız da, özünüzü məhdudlaşdırmaq üçün yüksək müqavimətli qaydalara ehtiyacınız var, yoxsa beyin akrobatikası ilə özünüzü aldada bilərsiniz.

Birincisi, "deontoloji etika"ya (Deontological Ethics), yəni uşaq bağçası səviyyəsində olan əxlaqi qaydalara sadiq qalmaq lazımdır.

"Bütün insanlığın gələcəyi üçün" mürəkkəb riyazi hesablamalar aparmağa ehtiyac yoxdur, ən sərt prinsiplərə qayıdın:

- Oğurluq etmə

- Günahsız insanları öldürmə

- Fırıldaqçılıq etmə

- Başqalarının azadlığına hörmət et

Bu qaydalar çox yüksək müqavimətlidir. Çünki onlar ağ-qara, müzakirə olunmazdır. "Uzunmüddətçilik" kimi böyük məntiqlə istifadəçi vəsaitlərini mənimsəməyinizi əsaslandırmağa çalışanda, "oğurluq etmə" qaydası sizi dərhal ifşa edir: oğurluq elədinsə, oğurluq eləmisən, nə qədər böyük maliyyə inqilabı üçün etdiyini əsaslandırmağa çalışma.

İkincisi, düzgün "mövqe" tutmaq lazımdır, hətta fiziki mövqe də daxil olmaqla.

Xalq arasında deyirlər ki, oturduğun yer düşüncəni müəyyən edir. Əgər hər gün San Francisco Bay Area-da, ətrafında yalnız AI sürətləndiriciləri olan insanlarla birlikdəsənsə, ayıq qalmaq çətin olacaq. Vitalik hətta fiziki baxımdan yüksək müqavimətli bir tövsiyə verir: San Francisco Bay Area-da yaşamayın.

5️⃣ Yekun

Əslində, Vitalikin bu məqaləsi ağıllı elitləri xəbərdar edir: Yüksək IQ-nuz olduğuna görə sadə əxlaqi prinsipləri pozmağa haqqınız olduğunu düşünməyin.

Hər şeyi izah edə biləcək kimi görünən "Qalaktika Beyni" nəzəriyyələri, əslində ən təhlükəli universal bəhanələrdir. Əksinə, sərt və qaydacı səslənən "yüksək müqavimətli" qaydalar, özümüzü aldatmağımızın qarşısını alan sonuncu müdafiə xəttidir.