Флагманская модель GPT-5.2 при генерации ответов по некоторым важным темам, как оказалось, использует в качестве источника информации созданную искусственным интеллектом энциклопедию Grokipedia от компании xAI Илона Маска. Это обнаружили журналисты The Guardian в ходе собственного тестирования.
Например, чат-бот ссылался на Grokipedia при формировании ответов о политических структурах в Иране и о британском историке Ричарде Эвансе, который выступал экспертом на суде по делу о клевете в отношении Дэвида Ирвинга, отрицавшем Холокост. Ответы содержали дезинформацию, позже опровергнутую. Кроме того, журналисты отметили избирательность алгоритма. Например, при запросах о предвзятости СМИ к Дональду Трампу и другим острым темам ChatGPT игнорировал материалы Grokipedia. Напомним, что модель GPT-5.2 была выпущена OpenAI в декабре прошлого года и позиционируется как самое мощное и наиболее передовое решение для работы с визуальными данными и выполнения сложных задач.
Grokipedia отличается от Wikipedia тем, что энциклопедия Илона Маска создается и редактируется не человеком, а нейронной сетью Grok. Grokipedia уже столкнулась с критикой общественности за распространение правых политических взглядов. Исследование американских ученых также показало, что сгенерированная ИИ энциклопедия ссылается на сомнительные и проблематичные источники.
Эксперты отмечают, что подобная практика делает чат-бота уязвимым к так называемому LLM-грумингу, когда злоумышленники распространяют огромные объемы дезинформации для того, чтобы она попала в ИИ-модели, и те будут ссылаться на нее.
