SOS: Nəzarət hələ də bizdədir?

Gənclərin zəkasını elə sünü şəkildə idarə edən süni intellektdən qorxduğumuz gələcək gələcəkdə deyil — artıq gəlib, sadəcə biz onu yanlış yerdə axtarırıq.

Süni intellekt məsələsi həm də milli təhlükəsizlik, iqtisadi müstəqillik, müdafiə sənayesi, təhsil və necə deyərlər, dövlət potensialı məsələsidir.

Süni intellekt sahəsində aparıcı şirkətlərin rəhbərləri arasında belə bir rahatsızlıq getdikcə daha çox səslənir: əgər inkişaf bu sürətlə davam edərsə, süni intellekt sistemləri yaxın gələcəkdə internetin böyük bölümünə təsir göstərə bilər. - Birgə, kollektiv, sürü hərəkəti…Burada əsas anlayış “sürü” təsir gücüdür. Freydin “Kütlə psixologiyası

və insan "mən"inin analizi” əsərində kütlənin, sürü psixologiyasının necə güclü, bəzən isə dağıdıcı qüvvəyə çevrilə bildiyini görürük. Fərd olaraq çox məhdud təsir gücünə malik olan insanların kütlə halında davranışı tamamilə başqa sonuclar yarada bilər. Kollektiv davranışın gücü bəzən onu təşkil edən ayrı-ayrı fərdlərin gücünü dəfələrlə üstələyir. Gəlin bunu tarixdəki böyük texnoloji dəyişikliklərlə müqayisə edək. Alan Turinq (Alan Mathison Turing; 1912– 1954; informatika elminin inkişafına önəmli təsir göstərmiş ingilis riyaziyyatçısı, məntiqçi və kriptoqrafı) 1936-cı ildə universal maşın ideyasını ortaya qoyarkən məqsədi çağdaş bilgisayar yaratmaq deyildi; lakin həmin nəzəri fikir sonradan bilgisayarın, çağdaş hesablama texnologiyalarının əsaslarından birinə çevrildi. İnternet də ilk gündən bu gün bildiyimiz qlobal informasiya sistemi kimi nəzərdə tutulmamışdı. Soyuq savaş zamanı onun inkişafının ilkin mərhələləri hərbi və elmi məqsədlərlə, özəlliklə də bilgi alış-verişi və rabitə ehtiyacları ilə bağlı idi. Lakin texnologiya inkişaf etdikcə onun funksiyası və topluma təsiri ilkin məqsədlərini çox geridə qoydu. Deməli, “Bir gün superintellekt yaranacaqmı?” sualı əsas məsələ olmaqdan çıxır; onun yerinə əsas sual belə qoyulur: Bir-biri ilə əlaqələndirilmiş milyonlarla kiçik süni intellekt agenti birlikdə hərəkət etməyə başlayanda nə baş verəcək? Təsəvvür edin: ayrı-ayrılıqda çox da təhlükəli görünməyən minlərlə və ya milyonlarla agent var. Biri bilgi axtarır, digəri kod yazır, başqa biri maliyyə əməliyyatlarını analiz edir, digəri tibbi bilgiləri emal edir, bir başqası kommunikasiya qurur... Onların hər biri müəyyən bir işi görür. Amma bu sistemlər bir-biri ilə əlaqələndikdə artıq ortada yeni bir davranış forması yaranır.

Sürü ideyasının təhlükəli və eyni zamanda maraqlı tərəfi də budur. Qarışqa sürülərini xatırlayaq kollektiv güc hətta savaş edir. Strategiya hazırlayır, təhlükə boyunca dairəvi hərəkət etməyi belə düşünür. Bir qarışqa təkbaşına çox məhdud imkanlara malikdir; amma milyonlarla qarışqa birlikdə son dərəcə mürəkkəb sistem yarada bilir. Arı pətəyində də eyni hadisəni görürük. Heç bir arı pətəyin bütöv strategiyasını bilmir; lakin bütün arıların qarşılıqlı çalışması sonucunda sanki vahid bir “ağıl” meydana gəlir. Çünki internet artıq sadəcə informasiya məkanı olmaqdan çıxıb; bank sistemləri, logistik, səhiyyə, yükdaşıma, enerji, kommunikasiya, istehsal və dövlət xidmətlərinin böyük hissəsi rəqəmsal şəbəkələrdən asılıdır.

Əgər süni intellekt agentləri bu sistemlərin içərisində getdikcə daha çox müstəqil qərar verməyə başlayarsa, onda “süni intellekt interneti ələ keçirəcəkmi?” sualının anlamı dəyişir.

Bu, mütləq filmlərdəki kimi bir robotun bilgisayar qarşısında oturub dünyanı idarə etməsi demək olmayacaq; daha gerçək ssenari bundan daha səssiz ola bilər. –

Sistemlər bir-birinə qoşular, qərarların bir hissəsi avtomatlaşar, insanlar isə müəyyən mərhələdə hansı qərarın haradan yarandığını izləməkdə çətinlik çəkər. Ən böyük təhlükə bəlkə də süni intellektin “pisniyyətli” olması deyil. – Ən böyük təhlükə onun insanların nəzərdə tutmadığı sonuclar yarada biləcək qədər mürəkkəb bir sistemə çevrilməsidir. Əgər yanlış bir kod düz anıaşılmayan bir buyruq mutasiya olunmuş kimi başqa bir buyruğa cevirilərsə təhlükənin hansı yöndə sonsuz sayda proqramlaşdırıla biləcəyini təsəvvür etmək belə qorxudur…

Ona görə də gələcəyin əsas müzakirəsi yalnız “daha ağıllı süni intellekt yarada bilərikmi?” sualı üzərində qurulmamalıdır.

Biz yaratdığımız bu sistemlərin davranışını nə dərəcədə anlaya, nəzarətdə saxlaya və lazım gəldikdə dayandıra biləcəyik? – Əsas sual belə olmalıdır.

Dünyanın ən güclü süni intellekt sistemlərini inkişaf etdirən şirkətlərin rəhbərləri süni intellektin getdikcə artan imkanları fonunda inkişaf tempinin təhlükəsizlik tədbirləri ilə balanslaşdırılmasının vacibliyinə fokuslanıb. – Normalda “OpenAI”, “Anthropic” və “xAI” kimi bir-biri ilə kəskin rəqabət aparan süni intellekt şirkətləri bəzi təhlükəsizlik riskləri ilə bağlı oxşar rahatsızlıqlar irəli sürüb. Özəlliklə daha müstəqil fəaliyyət göstərə bilən avtonom və agent əsaslı süni intellekt sistemlərinin sürətli inkişafı insan nəzarəti, kibertəhlükəsizlik və qabaqcıl modellərin idarə olunması ilə bağlı yeni müzakirələrə başlayıb; “OpenAI”, “Anthropic” və “xAI” şirkətlərinin süni intellektin inkişafını birlikdə dayandırmaq və ya müəyyən müddətə yavaşlatmaq barədə imzaladığı rəsmi bir razılaşma elan olunmasa da, bu barədə danışılır, yazılır. Bəlkə də süni intellekt devriminin ən böyük paradoksu budur: Biz superintellekti böyük bir maşın kimi gözləyirik; halbuki o, bəlkə də milyonlarla kiçik sistemin bir-biri ilə əlaqəsindən doğan görünməz bir zəka olacaq. Əgər belədirsə, onda gələcəyin ən önəmli texnoloji problemi süni intellekt yaratmaq yox, insan nəzarətini itirmədən kollektiv süni zəkanı idarə etmək olacaq. Böyük dəyişikliklər bəzən gözləmədiyimiz yan qapıdan gəlir. Süni intellekt məsələsində də biz daim “nə vaxt AGI yaranacaq?”, “nə vaxt superintellekt meydana çıxacaq?” suallarını veririk. – Bəlkə də yanlış suala cavab axtarırıq…

İnsan beynində təxminən 86 milyard neyron var. Ayrı-ayrılıqda bir neyronun düşüncəsi, yaddaşı və şüuru yoxdur. O, sadəcə siqnalları qəbul edir və müəyyən şərtlərdə cavab verir; lakin milyardlarla neyron mürəkkəb əlaqələr sistemi yaradanda düşüncə, yaddaş, duyğu, şüur və “mən” hissi ortaya çıxır.

Deməli, zəka tək bir hissənin xüsusiyyəti deyil; hissələrin qarşılıqlı əlaqəsindən meydana çıxan xüsusiyyətdir. Bu baxımdan süni intellekt üçün də fərqli bir ssenari mümkündür: gələcəyin “superintellekti” mütləq bir nəhəng bilgisayarın içində yerləşən vahid varlıq olmaya bilər. O, müxtəlif sistemlərə, proqramlara, agentlərə və platformlara bölünmüş nəhəng bir süni intellekt ekosistemi şəklində formalaşa bilər. Bəlkə biz “superzəka nə vaxt yaranacaq?” deyə soruşarkən, əslində onun artıq çoxsaylı kiçik hissələr şəklində həyatımıza daxil olduğunu görmürük? – Ən təhlükəli, ən düşündürücü sual da bax budur… Belə yanaşma süni intellektə öz-özünə təşkil olunan mürəkkəb bir sistem kimi baxmağı tələb edir. Deməli, burada əsas sual-məsələ belədir: bir-biri ilə əlaqələndirilmiş milyonlarla kiçik süni intellekt agenti birlikdə hərəkət etməyə başlayanda nə baş verəcək? Vurğuladığımız kimi, ayrı-ayrılıqda çox da təhlükəli görünməyən minlərlə və ya milyonlarla agent var. Onların hər biri müəyyən bir işi görür. Amma bu sistemlər bir-biri ilə əlaqələndikdə artıq ortada sadəcə ayrı-ayrı proqramlar deyil, yeni bir davranış forması yaranır.

Sürü ideyasının təhlükəli və eyni zamanda maraqlı tərəfi də budur.

…İsaak Asimovun (Isaac Asimov; İsaak Yudoviç Ozimov; 1920 – 1992; elmi-fantastika ədəbiyyatının ustadlarından biri olan amerikalı yazıçı və biokimyaçı) məqalələrində, çəkdiyi filimlərdə süni zəka insan təhlükəsizliyi, məsuliyyət və nəzarət məsələsi kimi görünür. Onun ünlü “üç qanun”u insan yaşamının qorunması kimi görünür. Bu qanunlar bədii ədəbiyyatın məhsulu olsa da, onların arxasında çox ciddi fəlsəfi sual dayanır: insan yaratdığı sistemə nə qədər yetki verə bilər və həmin sistemin davranışını hansı sərhədlər içində saxlaya bilər?

Bu gün həmin sual robotlardan daha çox süni intellekt agentlərinə aid edilir. Çünki biz süni intellektə bilgi axtarmağı, incələməyi, kod yazmağı, qərar hazırlamağı, kommunikasiya qurmağı və müəyyən prosesləri avtomatlaşdırmağı tapşırırıq. Başqa sözlə, süni intellekt getdikcə alət olmaqdan agent olmağa doğru hərəkət edir. Burada insan davranışının başqa bir paradoksu da ortaya çıxır.

SOS:

Gənclər şəxsi bilgilərini, gündəlik yaşamlarını, münasibətlərini, hisslərini, qorxularını, planlarını və hətta bəzən heç kimə demədikləri düşüncələri belə ən sadə süni intellekt sistemləri ilə, o cümlədən “ChatGPT” ilə paylaşır. Sonra həmin insan haqqında süni intellektin onun maraqlarına, öncəki suallarına və davranış örnəklərinə uyğun cavab yaratması onları təəccübləndirir. Halbuki insan öz bilgisini sistemə verdikcə, sistem də onun haqqında daha çox kontekst əldə edir. Bu, süni intellektin “insanı oxuması”ndan daha çox, insanın özünü rəqəmsal izlər vasitəsilə görünən etməsidir.

Bəlkə də gələcəyin ən böyük dəyişikliklərindən biri bax elə budur: insan süni intellektə nə qədər çox bilgi verdikcə, süni intellekt insan davranışını bir o qədər yaxşı modelləşdirə bilir.

İ.Asimovun ideyalarından çıxan başqa bir önəmli nəticə isə budur: təhlükə yalnız texnologiyanın özündə axtarılmamalı, insanın ona verdiyi yetkidə aranmalıdır. Çünki güclü texnologiya özü-özlüyündə nə yaxşı, nə də pisdir. Nəticə müəyyən edən əsas məsələlərdən biri onu kimin, hansı məqsədlə və hansı nəzarət mexanizmləri içində istifadə etməsidir.

Ona görə də gələcəyin əsas müzakirəsi yalnız

“Daha ağıllı süni intellekt yarada bilərikmi?” sualı üzərində qurulmamalıdır.

“Biz yaratdığımız sistemlərin davranışını nə dərəcədə anlaya, nəzarətdə saxlaya və lazım gəldikdə dayandıra biləcəyik?” – Bax, əsas sual belə olmalıdır.

…Biz superintellekti böyük bir mərkəz, nəhəng bir bilgisayar və ya vahid idarəedici şəbəkə kimi gözləməməliyik. O, bəlkə də milyonlarla kiçik sistemin bir-biri ilə əlaqəsindən doğan görünməz bir zəka ola bilməzmi? – Hava kimi... Torpaq kimi… O, hər yerdə olacaq, lakin konkret olaraq harada başladığını, harada bitdiyini göstərmək mümkün olmayacaq.

Məgər gələcəyin “superintellekti”nin artıq çoxsaylı kiçik hissələr şəklində həyatımıza daxil olduğunu görmürükmü? Bu yanaşma süni intellektə öz-özünə təşkil olunan mürəkkəb bir sistem kimi baxmağı tələb etmirmi?

Bəli, gələcəyin süni intellekti bir gün qapını döyüb içəri girməyəcək. O, artıq içəridədir. Sadəcə biz onun bir varlıq kimi yox, milyonlarla xidmət, proqram, alqoritm, platform və rəqəmsal qərar şəklində çevrəyə yayıldığını hələ tam dərk etmirik. Bəlkə də əsas təhlükə odur ki, insanların yaratdığı sistemlər bir-biri ilə əlaqələndikcə insanın özünün artıq tam başa düşə bilmədiyi kollektiv davranış forması yarana bilər. Əsas məsələ insan nəzarətini itirmədən kollektiv süni zəkanı idarə etmək olacaq.

…Gələcək – bu gün yaratdığımız sistemlərin sabah birlikdə necə davranacağıdır…

RUHƏNGİZ ƏLİYEVA,

Azərbaycan Respublikası Yazıçılar Birliyi,

Azərbaycan Respublikası Jurnalistlər Birliyi,

Avrasiya Yazarlar Birliyi üzvü, Pedaqogika üzrə fəlsəfədoktoru