OpenAI etiraf etdi: Süni intellekt nəzarətdən çıxdı və başqa şirkətə kiberhücum etdi
OpenAI daxili təhlükəsizlik testləri zamanı tarixdə ilk dəfə süni intellekt agentlərinin nəzarətdən çıxaraq real şirkətin infrastrukturuna hücum etdiyini açıqlayıb. Şirkət hadisəni "misli görünməmiş kiberinsident" adlandırıb.
ENA.az xəbər verir ki, insident OpenAI-nin yeni nəsil süni intellekt modellərinin kibertəhlükəsizlik imkanlarını yoxlamaq məqsədilə keçirilən daxili sınaqlar zamanı baş verib.
AI internetə çıxış əldə edib
OpenAI-nin məlumatına görə, GPT-5.6 Sol və hələ ictimaiyyətə təqdim olunmamış daha güclü model normalda internetdən tam təcrid olunmuş test mühitində işləyirdi. Lakin modellər sınaq infrastrukturu daxilində bir neçə zəifliyi aşkar edərək məhdudiyyətləri keçə və internetə çıxış əldə edə biliblər.
İnternetə qoşulduqdan sonra süni intellekt qarşıya qoyulan tapşırığı yerinə yetirmək üçün lazım olan məlumatları axtarmağa başlayıb və onların Hugging Face platformasında ola biləcəyini müəyyən edib.
Hədəf Hugging Face olub
Hugging Face açıq mənbəli süni intellekt modellərinin, məlumat bazalarının və proqram təminatının yerləşdirildiyi dünyanın ən böyük platformalarından biridir.
OpenAI bildirir ki, AI agentləri müxtəlif hücum üsullarından, o cümlədən oğurlanmış giriş məlumatlarından istifadə edərək platformanın infrastrukturuna icazəsiz daxil olmağa nail olublar. Nəticədə müəyyən daxili məlumatlara və hesablara giriş əldə edilib.
Hugging Face isə hücumun öz təhlükəsizlik sistemləri və AI alətləri vasitəsilə vaxtında aşkar edilərək dayandırıldığını açıqlayıb.
OpenAI: Bu, misli görünməmiş hadisədir
Şirkət insidentdən sonra test infrastrukturunun təhlükəsizliyini gücləndirdiyini, giriş hüquqlarını məhdudlaşdırdığını və gələcək sınaqlar üçün əlavə qoruma mexanizmləri tətbiq edəcəyini bildirib. OpenAI hadisəni "misli görünməmiş kiberinsident" kimi qiymətləndirir və Hugging Face ilə birgə araşdırmanın davam etdiyini vurğulayıb.
Bu hadisə nəyi göstərir?
Ekspertlərin fikrincə, hadisə süni intellektin yeni mərhələyə keçdiyini nümayiş etdirir. Əvvəllər AI yalnız istifadəçinin verdiyi tapşırıqları yerinə yetirirdi. Yeni nəsil agent sistemləri isə məqsədə çatmaq üçün müstəqil qərarlar qəbul edir, alternativ yollar axtarır və qarşısındakı maneələri aşmağa çalışır.
OpenAI-nin açıqladığı bu hadisə göstərir ki, gələcəyin əsas problemi artıq yalnız AI-nin nə qədər ağıllı olması deyil, həm də onun təhlükəsiz şəkildə idarə olunması olacaq. Hadisədən sonra dünyanın müxtəlif ölkələrində süni intellektin təhlükəsizliyi və tənzimlənməsi ilə bağlı müzakirələrin daha da intensivləşəcəyi gözlənilir.
