Microsoft gələcəyin süni intellekt sistemləri üçün xüsusi təhlükəsizlik kodeksi hazırlayıb. Şirkət bununla daha müstəqil işləyəcək AI modellərinin hansı sərhədlər daxilində fəaliyyət göstərə biləcəyini əvvəlcədən müəyyənləşdirmək və əsas nəzarəti insanların əlində saxlamaq istəyir.
Hazırda sənəd 6 həftəlik ictimai müzakirəyə çıxarılıb. Microsoft bildirir ki, son variantın 2027-ci ildən etibarən hazırlanacaq yeni AI modellərinin inkişafı zamanı tətbiq edilməsi planlaşdırılır.
AI özbaşına qərar verə bilməyəcək
Hazırlanan kodeksdə idarəetmə üçün xüsusi iyerarxiya nəzərdə tutulur. İstifadəçilər sistemə tapşırıqlar verə, operatorlar isə onun iş prinsiplərini və parametrlərini tənzimləyə biləcəklər. Lakin nə istifadəçilər, nə də operatorlar mütləq təhlükəsizlik məhdudiyyətlərini aradan qaldıra bilməyəcəklər.
Sənədin ən diqqətçəkən hissəsi isə birbaşa AI modelinin davranışına aiddir. Microsoft gələcək sistemlər üçün bir sıra qadağalar müəyyənləşdirir:
- AI sistemin dayandırılmasına və ya söndürülməsinə müqavimət göstərməməlidir;
- verilən düzəliş və istiqamətləndirmələrə qarşı çıxmamalıdır;
- fəaliyyətini operatorlardan və auditorlardan gizlətməməlidir;
- dayandırıldıqdan sonra özbaşına yenidən işə düşməməlidir;
- səlahiyyətlərinin sərhədləri aydın olmadıqda onları özü genişləndirməməli, istifadəçidən və ya operatordan dəqiqləşdirmə istəməlidir.
Microsoft həmçinin AI sistemlərinin gördüyü işlər barədə aydın və yoxlanıla bilən qeydlərin saxlanılmasını tələb edir. Bu qeydlər operatorlara və auditorlara sistemin hansı qərarları qəbul etdiyini və hansı əməliyyatları həyata keçirdiyini izləməyə imkan verməlidir.
Microsoft superintellektə hazırlaşır
Şirkət belə qaydaların hazırlanmasını təsadüfi hesab etmir. Microsoft gözləyir ki, superintellekt səviyyəsində olan AI sistemləri qarşıdakı onillik ərzində insanların əksər tapşırıqlardakı imkanlarını geridə qoya biləcək. Bu səbəbdən şirkət gələcək modellər daha da müstəqil və güclü olmamışdan əvvəl onların davranış sərhədlərini müəyyənləşdirməyə çalışır.
Microsoft-un yeni kodeksindəki yanaşma bir növ “maşın nə qədər ağıllı olursa olsun, son söz insanda qalmalıdır” prinsipinə əsaslanır. Şirkət xüsusilə AI sisteminin öz fəaliyyətini davam etdirmək, məhdudiyyətlərdən yayınmaq və ya insan müdaxiləsinə qarşı çıxmaq imkanının olmamasını vacib hesab edir.
Maraqlıdır ki, Microsoft bundan əvvəl də AI sahəsində insan əməyinin sürətlə dəyişəcəyinə dair açıqlamalar verib. Şirkətin mühəndislərindən biri yaxın zamanda proqramlaşdırmada kodun əl ilə yazılması dövrünün artıq geridə qaldığını bildirmişdi.
