OpenAI iyulun sonunda ən güclü süni intellekt modellərinin yarada biləcəyi ciddi təhlükələri araşdıran Preparedness komandasını ləğv edib. Bu barədə Financial Times məlumat yayıb.
Preparedness komandası süni intellektin yarada biləcəyi ən ağır ssenariləri, o cümlədən kiberhücumlar, bioloji təhlükələr və AI sistemlərinin həddindən artıq müstəqil qərarlar qəbul edərək insan nəzarətindən çıxması ehtimalını qiymətləndirirdi.
Komandanın fəaliyyətinə son qoyulsa da, OpenAI bu istiqamətdəki işləri dayandırmayıb. Bioloji və kiber risklərin qiymətləndirilməsi ilə bağlı funksiyalar şirkətin digər daxili komandaları arasında bölüşdürülüb.
OpenAI hələ də ən ciddi AI təhlükələrinin qiymətləndirilməsi üçün Preparedness Framework sistemindən istifadə edir və onu şirkətin təhlükəsizlik yanaşmasının əsas elementlərindən biri hesab edir.
Bundan əlavə, şirkətin Frontier Governance Framework adlı risk idarəetmə sistemi də fəaliyyətini davam etdirir. Bu çərçivə kiber risklər, CBRN təhlükələri — kimyəvi, bioloji, radioloji və nüvə riskləri — manipulyativ təsir və AI üzərində nəzarətin itirilməsi kimi ssenariləri əhatə edir.
Əsas dəyişiklik təhlükəsizlik mexanizmlərinin özündə deyil, məsuliyyətin necə bölüşdürülməsindədir. Əvvəllər ən ağır AI risklərini araşdırmaq üçün ayrıca ixtisaslaşmış komanda mövcud idi. İndi isə həmin funksiyalar müxtəlif bölmələr arasında paylanıb.
Müasir AI sistemlərində təhlükəsizlik yalnız modelin özünü yoxlamaqla məhdudlaşmır. İcra mühitinin izolyasiyası, şəbəkə məhdudiyyətləri, fəaliyyətin monitorinqi və digər qoruma mexanizmləri də mühüm rol oynayır.
Bununla belə, Preparedness-in ləğvi OpenAI-nin daxili təhlükəsizlik strukturunda nəzərəçarpacaq dəyişiklikdir. Ən ciddi AI risklərinə fokuslanan ayrıca komanda artıq mövcud deyil və bu sahədəki məsuliyyət digər bölmələr arasında bölüşdürülüb.
