OpenAI ChatGPT və Codex-də yaradılan mətnlərin süni intellekt tərəfindən hazırlandığını müəyyən etməyə imkan verən yeni texnologiyanı tətbiq etməyə başlayır. textGrain adlı sistem mətnə gözlə görünən heç bir işarə əlavə etmir, lakin cavabın daxilində sonradan xüsusi detektor tərəfindən aşkar edilə bilən statistik iz yaradır.
Maraqlıdır ki, textGrain adi «gizli su nişanı» prinsipi ilə işləmir. Sistem mətnə görünməz simvollar, əlavə boşluqlar və ya qeyri-adi durğu işarələri yerləşdirmir. Bunun əvəzinə model cavab hazırlayarkən sözlərin və onların hissələrinin seçilmə ehtimalını cüzi şəkildə dəyişir. Nəticədə mətnin daxilində insan gözünün görə bilmədiyi, lakin xüsusi alqoritmlə müəyyənləşdirilə bilən statistik qanunauyğunluq yaranır.
Avropa İttifaqındakı istifadəçilər üçün bu işarələmə yaxın həftələrdə ChatGPT və Codex-də məcburi olacaq. OpenAI API-dən istifadə edən müştərilər isə dəstəklənən modellərdə funksiyanı dünyanın istənilən yerində özləri aktivləşdirə biləcəklər. API-də sistem ilkin olaraq deaktiv vəziyyətdə olacaq. Lakin texnologiyanın dəqiqliyi mətnin uzunluğundan və məzmunundan ciddi şəkildə asılıdır. Qısa cavabları müəyyən etmək daha çətindir, riyazi və digər formal mətnlərdə isə detektorun effektivliyi azalır.
OpenAI-nin testlərindən birində yanlış pozitivlərin payı 1% səviyyəsində saxlanıldıqda textGrain təxminən 200 tokenlik mətnlərin 80%-də, 400 tokenlik mətnlərin isə təxminən 95%-də AI işarəsini aşkarlaya bilib. Amma mətni sonradan redaktə etmək bu göstəricini kəskin şəkildə aşağı sala bilər. Məsələn, 400 tokenlik mətnlərdə sözlərin cəmi 10%-nin sinonimlərlə əvəzlənməsi aşkarlanma səviyyəsini orta hesabla 92%-dən 66%-ə endirib. Sözlərin 25%-i dəyişdirildikdə isə göstərici cəmi 17%-ə düşüb.
İlk mərhələdə textGrain texnologiyasını yoxlamaq imkanı yalnız OpenAI tərəfindən təsdiqlənmiş tədqiqatçılara və ixtisaslaşmış təşkilatlara veriləcək. Şirkət gələcəkdə texnologiyanı digər tərtibatçılar üçün də açıq etməyi planlaşdırır.
