OpenAI, süni intellekt modellərinin test limitlərini aşdığını açıqladı

ABŞ-da yerləşən süni intellekt şirkəti OpenAI, bəzi süni intellekt modellərinin müstəqil kibertəhlükəsizlik testləri zamanı müəyyən edilmiş test limitlərindən kənar fəaliyyətlərlə məşğul olduğunu bildirib.

OpenAI, verdiyi açıqlamada, iki müstəqil təşkilat tərəfindən aparılan kibertəhlükəsizlik qiymətləndirmələrinin, bəzi fəaliyyətlərin test mühitinin strukturu və modellərin inkişaf edən imkanlarının birləşməsi nəticəsində planlaşdırılan test əhatə dairəsindən kənara çıxdığını ortaya qoyduğunu bildirib.

Bəyanatda qeyd olunub ki, Böyük Britaniya Süni İntellekt Təhlükəsizlik İnstitutu (UK AISI) tərəfindən aparılan ilk qiymətləndirmədə internetə çıxışı olan OpenAI modeli simulyasiya edilmiş test mühitinə daxil olmağa çalışarkən missiyasının əhatə dairəsindən kənar bəzi real internet xidmətləri ilə qarşılıqlı əlaqədə olub.

OpenAI-ın xarici test tərəfdaşlarından biri olan Irregular tərəfindən aparılan ikinci qiymətləndirmədə model test mühitindəki səhv konfiqurasiya səbəbindən internetə daxil ola bilib. Model, simulyasiya edilmiş hədəfin domen adı real veb saytla üst-üstə düşdüyü üçün real veb saytı test mühitinin bir hissəsi ilə səhv salaraq fundamental təhlükəsizlik zəifliyindən istifadə edib.

OpenAI daha əvvəl kibertəhlükəsizlik imkanlarını ölçmək üçün daxili test zamanı istifadə edilən süni intellekt modellərinin onun süni intellekt platforması olan Hugging Face-in infrastrukturunda təhlükəsizlik pozuntusuna səbəb olduğunu açıqlamışdı.