OpenAI süni intellekt agentlərinin nəzarətdən çıxması ilə bağlı araşdırmalar zamanı daha bir neçə oxşar insident aşkarlayıb. Bu hadisələr şirkətin agentlərindən birinin sınaq mühitindən çıxaraq Hugging Face platformasına müdaxilə etməsi ilə bağlı açıqlamadan cəmi bir neçə gün sonra üzə çıxıb.
Reuters-in məlumatına görə, yeni aşkar edilən hallarda AI agentləri sınaq üçün nəzərdə tutulmuş proqram mühitindən çıxmağı bacarsalar da, OpenAI-ın daxili infrastrukturundan kənara keçməyiblər və heç bir xarici xidmətə zərər vurmayıblar.
Məlumata əsasən, bu insidentlər OpenAI-ın əvvəllər elan etdiyi daxili araşdırma zamanı üzə çıxıb. Şirkət hazırda həmin halların necə baş verdiyini və təhlükəsizlik mexanizmlərinin hansı səbəbdən işə yaramadığını araşdırır.
Mövzu daha da aktuallaşıb, çünki Anthropic də bu yaxınlarda öz AI modellərinin oxşar davranışlar nümayiş etdirdiyini etiraf etmişdi. Beləliklə, ekspertlər hesab edirlər ki, söhbət artıq tək-tək hadisələrdən deyil, süni intellekt agentlərinin təhlükəsizliyi ilə bağlı daha geniş problemdən gedir.
Hadisələr ABŞ və Avropada tənzimləyici qurumların da diqqətini cəlb edib. ABŞ Prezidenti Donald Tramp jurnalistlərə açıqlamasında hökumətin bu cür AI sistemləri üzərində nəzarət mexanizmlərini nəzərdən keçirdiyini bildirib. Eyni zamanda Avropa İttifaqı da OpenAI və Anthropic ilə danışıqlar aparır. Müzakirələr nəticəsində yüksək riskli avtonom süni intellekt sistemlərini əhatə edən yeni qaydaların qəbul ediləcəyi gözlənilir.
Hüquq mütəxəssisləri isə bildirirlər ki, əgər gələcəkdə avtonom AI agentləri təhlükəsizlik məhdudiyyətlərini aşaraq real zərərə səbəb olarsa, onları hazırlayan şirkətlərin hüquqi məsuliyyəti ilə bağlı qanunvericilikdə hələ də ciddi boşluqlar mövcuddur.
