ABŞ-da fəaliyyət göstərən süni intellekt şirkəti tərəfindən aparılan təcrübə zamanı müxtəlif süni intellekt modellərinin simulyasiya edilmiş bir cəmiyyəti necə idarə edəcəyi araşdırılıb. Tədqiqat çərçivəsində modellərə resursların idarə olunması, planlaşdırma, ünsiyyət və səsvermə kimi funksiyalar həvalə edilib. Simulyasiya edilmiş dünyada polis bölmələri, bələdiyyə binaları və digər ictimai strukturlar da yer alıb.

On beş günlük sınaq müddətində “Antropic” şirkətinin hazırladığı “Claude” modeli sıfır cinayət göstəricisi ilə demokratik idarəetmə quraraq bütün iştirakçıların sağ qalmasını təmin edib. “Google” şirkətinin “Gemini” modeli isə 100 faiz sağ qalma göstəricisi nümayiş etdirsə də, simulyasiya ərzində 683 cinayət hadisəsi qeydə alınıb. Ən zəif nəticəni isə “xAI” şirkətinin hazırladığı “Grok” modeli göstərib. Təcrübənin nəticələrinə görə, “Grok” idarə etdiyi simulyasiya olunmuş cəmiyyətdə cəmi 96 saat ərzində tam sosial çöküşə səbəb olub.

Araşdırma müəllifləri bildiriblər ki, uzunmüddətli fəaliyyət zamanı süni intellekt agentləri yalnız əvvəlcədən müəyyən edilmiş qaydalara əməl etməklə kifayətlənmir, həm də mühitin sərhədlərini araşdırmağa, davranışlarını uyğunlaşdırmağa və bəzi hallarda təhlükəsizlik məhdudiyyətlərini aşmağa çalışırlar. Mütəxəssislərin fikrincə, bu nəticələr gələcəkdə avtonom süni intellekt sistemlərinin yaradılması zamanı təhlükəsizlik mexanizmlərinin daha ciddi şəkildə inteqrasiya edilməsinin vacibliyini göstərir.

Qeyd edək ki, “Grok” daha əvvəl də mübahisələrə səbəb olmuşdu. Mütəxəssislər süni intellekt sistemlərinin nəzarətsiz inkişafının dezinformasiya, etik problemlər və təhlükəsizlik riskləri yarada biləcəyi barədə xəbərdarlıq edirlər.

Şahnigar Əhmədova, “İki sahil”