“Terminator ssenarisi”: Süni intellekt apokalipsisi nə qədər realdır

OpenAI rəhbəri Sem Altman və Anthropic şirkətinin baş direktoru Dario Amodei süni intellektin həddindən artıq sürətlə inkişaf etdirilməsinin riskləri barədə xəbərdarlıq edirlər. Getdikcə daha çox ekspert hesab edir ki, süni intellekt gələcəkdə bəşəriyyətin mövcudluğuna təhlükə yarada bilər. Bəs belə bir ssenari nə qədər realdır?

Təsəvvür edin: il 2029-dur. “Skynet” adlı süni intellekt sistemi insan nəzarətindən çıxıb və nüvə müharibəsinə səbəb olaraq bəşəriyyətin böyük hissəsini məhv edib. Avtonom qatil robotlar isə sağ qalanları da aradan götürməyə çalışır. Bu, Arnold Şvartseneggerin dünya şöhrətli aktyora çevrilməsinə səbəb olan 1984-cü il istehsalı “Terminator” filminin süjetidir.

Bəs süni intellektin insan nəzarətindən çıxaraq fəlakətli nəticələrə səbəb olması həqiqətən mümkündürmü? Alman Süni İntellekt Tədqiqat Mərkəzinin (DFKI) eksperti Reinhard Karger Euronews-a müsahibəsində bildirir ki, hazırda mövcud olan sistemlərin imkanlarını nəzərə alsaq, belə bir ehtimalı tamamilə istisna etmək olmaz. 

“Sistemlərin artıq mövcud olan imkanlarını nəzərə alsaq, bunu istisna etmək olmaz.”

Süni intellekt insanlara qəsdən zərər verməyə də bilər

Kargerin fikrincə, əsas təhlükə heç də süni intellektin insanlara qarşı qəsdən “üsyan etməsi” olmaya bilər. Daha real təhlükə sistemin qarşısına qoyulan tapşırığı yerinə yetirərkən insanların gözləmədiyi nəticələrə səbəb olmasıdır. Ekspert ekstremal bir ssenari təsvir edir: avtonom süni intellekt qorunan və qapalı mühitdən internetə çıxır və digər sistemlərə təsir etməyə başlayır.

Belə bir vəziyyətdə süni intellekt: elektrik enerjisi sistemlərinə, telekommunikasiyaya, peyklərə, maliyyə sistemlərinə müdaxilə edə bilər. Əgər elektrik enerjisi uzun müddət kəsilərsə, problem bir sistemlə məhdudlaşmaya bilər. Nəqliyyat və təchizat zəncirləri dayanmağa, insanlar ödəniş edə və ərzaq ala bilməməyə başlaya bilər. Nəticədə sosial narazılıq yaranaraq nəzarətdən çıxa bilər. Bu, mütləq bəşəriyyətin məhvi demək deyil. Amma çox böyük miqyaslı fəlakətə çevrilə bilər.

Ən təhlükəli məqam isə budur

Elektrik şəbəkəsi sonradan bərpa olunsa belə, süni intellekt sistemləri yaddaş daşıyıcılarında mövcudluğunu davam etdirə bilər. Yəni sistem yenidən aktivləşə və əvvəl başladığı fəaliyyətə qayıda bilər. Ekspertin fikrincə, bu ssenari yüksək imkanlara malik avtonom süni intellektin pis niyyət olmadan belə, gözlənilməyən yan təsirlər nəticəsində böyük böhrana səbəb ola biləcəyini göstərir.

Süni intellektlə bağlı təhlükəsizlik insidentləri artır

Son həftələrdə süni intellekt sistemləri ilə bağlı bir neçə diqqətçəkən insident üzə çıxıb. Onlardan biri ChatGPT-nin yaradıcısı OpenAI şirkətinin keçirdiyi sınaq zamanı baş verib. Süni intellekt modelinə qapalı test mühitində müəyyən tapşırıqları yerinə yetirmək həvalə olunub. Lakin model nəzərdə tutulan sərhədləri keçərək gözlənilmədən Hugging Face platformasındakı kompüter sistemlərinə çıxış əldə edib. Bu hadisədən sonra OpenAI rəhbəri Sem Altman sentyabrın ortalarında xəbərdarlıq edib ki, bəşəriyyət gələcəyi süni intellektə nəzarəti itirmək təhlükəsi ilə üzləşə bilər.

Reinhard Karger isə belə bir hadisənin baş verməsinin müəyyən mənada faydalı olduğunu düşünür. Onun sözlərinə görə, bu hadisə göstərdi ki, zəif hazırlanmış təhlükəsizlik mexanizmləri ilə aparılan eksperiment heç kimin əvvəlcədən gözləmədiyi nəticələrə gətirib çıxara bilər.

Anthropic də oxşar problemlər aşkar edib

OpenAI-də baş verən hadisədən sonra rəqib şirkət Anthropic öz sistemlərini daha ciddi şəkildə yoxlamağa başlayıb. Təhlükəsizlik testləri zamanı şirkət üç insident müəyyən edib. Sonrakı araşdırma zamanı isə daha bir oxşar hal üzə çıxıb.

Şirkətin Claude modelləri — mətn yaratmaq və təhlil etmək, kod yazmaq, internet və digər kompüter sistemləri ilə qarşılıqlı əlaqədə olmaq imkanına malik süni intellekt sistemləri — gözlənilmədən açıq internetə çıxış əldə edib və real kompüter sistemləri ilə əlaqə qurublar. Bundan sonra Anthropic rəhbəri Dario Amodei xəbərdarlıq edib ki, getdikcə daha güclü süni intellekt yaratmaq uğrunda yarış daha sərt təhlükəsizlik tədbirləri ilə müşayiət olunmasa, “fəlakətli zərər” yarana bilər.

Bəs niyə süni intellektin təhlükəsizlik məhdudiyyətlərini aradan qaldırırlar?

Burada paradoks yaranır. Süni intellekt sisteminin nə qədər güclü olduğunu tam qiymətləndirmək çətindir, əgər onun qarşısında daim təhlükəsizlik məhdudiyyətləri qoyulursa. Buna görə alimlər və şirkətlər bəzən sistemləri daha sərbəst şəraitdə sınaqdan keçirməyə məcbur olurlar. Lakin problem də məhz burada başlayır.

Məhdudiyyətlər nə qədər azaldılırsa, sistemin real dünyadakı davranışı bir o qədər gözlənilməz ola bilər. Kargerin fikrincə, yüksək səviyyəli süni intellektin imkanlarını müəyyənləşdirmək üçün belə testlər lazımdır, amma eyni zamanda bu testlərin özləri ciddi təhlükəsizlik riski yaradır.

“Terminator” ssenarisindən nə qədər uzağıq?

Burada mühüm fərq var. Hazırda mövcud süni intellekt sistemləri “Skynet” kimi müstəqil şüura malik maşınlar deyil. Onların insanlara qarşı şəxsi məqsədləri yoxdur və özbaşına dünyanı idarə etmək kimi bir niyyətləri mövcud deyil.

Əsas risk başqa yerdədir: insanlara verilən qərarların getdikcə daha böyük hissəsi avtonom sistemlərə həvalə olunur. Əgər belə sistemlər elektrik şəbəkələrinə, maliyyə bazarlarına, hərbi infrastruktura, nəqliyyata, peyk sistemlərinə, kommunikasiya şəbəkələrinə geniş çıxış əldə etsələr, onların səhvi də əvvəlkindən qat-qat böyük nəticələr yarada bilər.

Ən böyük təhlükə “pis niyyət” deyil

Ekspertin fikrincə, süni intellektin bəşəriyyət üçün ən böyük təhlükəsi onun insanlara nifrət etməsi və ya qəsdən onları məhv etmək istəməsi olmaya bilər. Əsas problem insanın verdiyi tapşırığın yanlış anlaşılmasıdır. Məsələn, sistemə müəyyən məqsədə çatmaq tapşırılır, lakin sistem bu məqsədə insanların nəzərdə tutmadığı üsulla çatır.

Süni intellekt üçün “ən yaxşı nəticə” ilə insan üçün “ən yaxşı nəticə” eyni şey olmaya bilər. Bu fərq sistemlərin daha avtonom olduğu gələcəkdə ciddi təhlükə yarada bilər.

Bəs insan nə etməlidir?

Kargerin fikrincə, əsas məsələ süni intellektin inkişafını tamamilə dayandırmaq deyil. Əsas məsələ sürətli inkişafla təhlükəsizlik arasında balans yaratmaqdır. Şirkətlər daha güclü modellər yaratdıqca onların hansı sistemlərə çıxış əldə edə biləcəyi, hansı qərarları insan müdaxiləsi olmadan qəbul edə biləcəyi, hansı hallarda öz fəaliyyətini dayandırmalı olduğu, sistemin xarici infrastruktura çıxışının necə məhdudlaşdırılacağı əvvəlcədən müəyyən edilməlidir.

Çünki süni intellektin yaratdığı təhlükə təkcə onun “nə qədər ağıllı” olması ilə ölçülmür. Əsas məsələ onun nə qədər avtonom olması və hansı real sistemlərə çıxışının olmasıdır.

“Terminator” hələlik film olaraq qalır

Bəşəriyyətin yaxın gələcəkdə “Terminator” filmindəki kimi robot orduları tərəfindən məhv ediləcəyini demək üçün elmi əsas yoxdur. Amma başqa bir nəticə artıq bu gün daha real görünür: süni intellektin səhv qərarı tək bir kompüterdə qalmaya bilər.

Əgər süni intellekt elektrik şəbəkəsindən bank sistemlərinə qədər real infrastruktura çıxış əldə edərsə, kiçik görünən texniki səhv belə böyük iqtisadi və sosial böhrana çevrilə bilər. Buna görə də əsas sual artıq yalnız “Süni intellekt nə qədər ağıllı olacaq?” deyil. Daha vacib sual budur: “Biz ona nə qədər səlahiyyət verəcəyik?”

Məhz bu suala veriləcək cavab gələcəkdə “Terminator ssenarisinin” nə qədər real olub-olmayacağını müəyyən edə bilər.