OpenAI süni intellekt əsasında çalışan brauzerlərin əsas və hələlik qaçılmaz çatışmazlığını etiraf edib. Şirkətin bildirdiyinə görə, bu cür brauzerləri gizli promtların yeridilməsi ilə edilən hücumlardan (prompt injection) tam şəkildə qorumaq demək olar ki, mümkün deyil. Bu metod zamanı zərərli göstərişlər məktubların mətnində və ya veb-səhifələrdə gizlədilir və İİ-nin davranışına təsir edir. OpenAI bu təhlükəni fişinq və sosial mühəndislik ilə müqayisə edir: problemi kökündən aradan qaldırmaq mümkün deyil, yalnız riskləri azaltmaq olar.
Bu açıqlamaya səbəb ChatGPT Atlas adlı İİ-brauzerin inkişafı olub. Oktyabr ayında istifadəyə verilən brauzer üzərində aparılan araşdırmalar göstərib ki, məsələn, Google Docs sənədlərində və ya elektron məktublarda gizlədilən göstərişlər süni intellekt agentinin davranışını dəyişə bilir. OpenAI etiraf edir ki, “agent rejimi” hücum səthini xeyli genişləndirir. Bu fikri bazarın digər iştirakçıları da bölüşür — Brave brauzerinin yaradıcılarından tutmuş Böyük Britaniyanın Milli Kibertəhlükəsizlik Mərkəzinə qədər. Mərkəz açıq şəkildə bildirib ki, bu tip hücumlar “heç vaxt tamamilə aradan qaldırılmaya bilər”.
OpenAI öz növbəsində çoxsəviyyəli müdafiə sistemlərinə, sürətli yeniləmələrə və qeyri-adi yanaşmaya ümid edir. Şirkət “avtomatik hücumçu” adlandırdığı xüsusi bir İİ-dən istifadə edir. Bu model haker rolunu oynayır: zəif nöqtələri axtarır, simulyasiyalarda hücumları sınaqdan keçirir, sistemin reaksiyasını təhlil edir və yenidən cəhd edir. OpenAI-yə görə, bu yanaşma real hücumçulardan daha sürətli şəkildə yeni təhlükə ssenarilərini aşkar etməyə imkan verir.
Bununla yanaşı, mütəxəssislər ehtiyatlı olmağa çağırır. İİ-brauzerlər elektron poçta, ödəniş sistemlərinə və istifadəçi hesablarına çıxış əldə etdiyindən, istənilən səhv ciddi nəticələrə gətirib çıxara bilər. OpenAI istifadəçilərə agentlərin şəxsi məlumatlara çıxışını məhdudlaşdırmağı, vacib əməliyyatlar üçün əlavə təsdiq tələb etməyi və ümumi “hamısını özün et” tipli tapşırıqlar əvəzinə dəqiq və konkret göstərişlər verməyi tövsiyə edir.
