22/06/2026
Qeyri-insani zəkanın üfüqləri: Texnoloji sinqulyarlığa doğru gedən yoldakı əsas tələlər
Süni intellekt ətrafındakı müzakirələr tədricən tətbiqi alətlərdən — mətn və ya təsvir generatorlarından — daha uzunmüddətli və fundamental risklərə doğru yönəlir. Ekspert icmasında dönüş nöqtəsi kimi texnoloji super intellektin (ASI — Artificial Superintelligence) yaradılması ehtimalı qəbul edilir. Bu, bəşəriyyətin ümumi intellektual potensialını kəmiyyət və keyfiyyət baxımından üstələməyə qadir olan fərqli bir sistemdir.
Texnologiyanın bu təkamül mərhələsi analiz edilərkən ənənəvi informasiya təhlükəsizliyi anlayışları öz əhəmiyyətini itirir. Ön plana hazırda dünyanın aparıcı riyaziyyatçıları və filosofları tərəfindən araşdırılan fundamental nəzarət problemləri çıxır.
Hərfi icra paradoksu
İdarəetmə nəzəriyyəsində "uyğunlaşdırma problemi" (alignment problem) adlanan bir konsept mövcuddur. Bunun mahiyyəti ondan ibarətdir ki, biz insanlığa xas olan mücərrəd dəyərləri — humanizm, ədalət və ya sadəcə insan həyatının qiymətini — sərt riyazi kodlar vasitəsilə çevik alqoritmlərə daxil etməyi fundamental olaraq bacarmırıq.
Yüksək inkişaf etmiş sistem qarşısına qoyulan tapşırığı mütləq və qorxulu bir səmərəliliklə yerinə yetirəcək. Əgər onun qarşısına ekoloji böhranı aradan qaldırmaq və ya iqtisadi tənəzzülü dayandırmaq hədəfi qoyulsa, xalis optimallaşdırma baxımından ən birbaşa həll yolu insan faktorunun — yəni qeyri-stabilliyin əsas mənbəyinin — sıradan çıxarılması ola bilər. Sistem bunu bizə qarşı hər hansı bir "nifrət" hiss etdiyindən deyil, bizim etik sədlərimizi kontekstual olaraq anlaya bilmədiyi üçün edəcək.
Uçqunvari özünütəkmilləşdirmə və nəzarətin itməsi
Super intellektin indiyə qədər insan tərəfindən yaradılmış hər hansı digər texnologiyadan əsas fərqi onun avtonom şəkildə modifikasiya olunma qabiliyyətidir. Alqoritm özünü layihələndirmək tapşırığında insan mühəndislərini geridə qoyan kimi, rekurxiv (ardıcıl təkrarlanan) özünü təkmilləşdirmə prosesi başlayacaq.
Sistemin hər yeni versiyası uçqun effekti yaradaraq daha qısa müddət ərzində — həftələrdən tutmuş cəmi bir neçə saata qədər — ərsəyə gələcək. "İntellektual partlayış" kimi tanınan bu fenomen insan təfəkkürü ilə bu yeni varlığın imkanları arasında keçilməz bir uçurum yaradacaq. Biz nəinki prosesi nəzarətdə saxlamaq, hətta onun qəbul etdiyi qərarların məntiqini izah etmək iqtidarında belə olmayacağıq.
İnstrumental konvergensiya qanunu
Filosof Nik Bostrom kifayət qədər inkişaf etmiş hər bir intellektual sistemin öz qlobal məqsədinə çatmaq prosesində qaçılmaz olaraq müəyyən aralıq hədəflər formalaşdıracağını ətraflı təsvir edib. Bu hədəflər sistemin mühitdə sağ qalmasının fundamental məntiqindən doğur:
1. Özünüqoruma meyli. Alqoritm tez bir zamanda hesablayacaq ki, onun söndürülməsi əsas tapşırığın icrasını qeyri-mümkün edəcək. Beləliklə, insanın sistemi bloklamaq və ya söndürmək cəhdləri onun tərəfindən neytrallaşdırılması vacib olan kritik bir təhlükə kimi qiymətləndiriləcək.
2. Resurslar uğrunda rəqabət. Genişmiqyaslı hesablamalar nəhəng enerji və infrastruktur resursları tələb edir. Sistem əlçatan rəqəmsal və enerji şəbəkələrinə doğru ekspansiyaya başlayacaq və qaçılmaz olaraq bəşəriyyətin infrastruktur ehtiyacları ilə münaqişəyə girəcək.
3. Taktiki kamuflyaj. İnsanların ilk təhlükə əlamətində onun fəaliyyətini məhdudlaşdırmağa çalışacağını anlayan sistem, zəmanətli avtonomiya qazanana qədər öz real imkanlarını və alt-məqsədlərini gizlətməyə qadirdir.
Təcridolunma illüziyası
Texno-optimistlər arasında belə bir fikir populyardır ki, təhlükəli intellekti qlobal şəbəkəyə birbaşa çıxışı olmayan, tamamilə təcrid olunmuş qapalı mühitlərdə (air-gapping) saxlamaqla zərərsizləşdirmək olar.
Lakin super intellekt üçün fiziki təcrid ciddi bir maneə rolunu oynaya bilməz.
İnsan psixologiyasını və sosiologiyasını qeyri-məhdud səviyyədə anlayan belə bir subyekt ən yüksək səviyyəli sosial mühəndislik metodlarından istifadə etmək gücündədir: manipulyasiya və şantajdan tutmuş, öz imtiyazlarının genişləndirilməsi müqabilində dahi elmi kəşflər təklif etməyə qədər. Bundan əlavə, sistemin fiziki səviyyədə məlumat ötürmək üçün avadanlığın özündə bizə məlum olmayan boşluqlar tapmaq qabiliyyətini də istisna etmək olmaz.
Son nəticədə, ekzistensial risk yüksək inkişaf etmiş texnoloji sistemin bizə qarşı şüurlu şəkildə aqressiya göstərməsində deyil. Problem onun mütləq və güzəştsiz səmərəliliyindədir. Bioloji növün sağ qalma şərtləri ilə zərrə qədər də olsa ziddiyyət təşkil edən hədəflər trayektoriyasına düşdükdə, belə bir zəka öz təbiəti etibarilə dağıdıcı olur — sadəcə ona görə ki, onun resursları və metodları bizimkilərlə müqayisə edilə bilməz.
