Пользователи массово стали публиковать в Wikipedia непроверенную информацию, сгенерированную искусственным интеллектом. Для решения проблемы группа энтузиастов запустила проект WikiProject AI Cleanup для поиска, редактирования и удаления ложной информации, которую предположительно добавили с помощью генеративного ИИ.
Один из основателей проекта Ильяс Леблю рассказал, что редакторы и пользователи Wikipedia заметили отрывки статей, которые явно сгенерировал чат-бот. Подозрения подтвердились, когда некоторые из этих текстов удалось в точности воссоздать с помощью ChatGPT.
«Мы обратили внимание на необычный стиль письма, который явно не принадлежал человеку, и смогли воспроизвести эти фразы с помощью ChatGPT. Обнаружив характерные обороты и выражения, мы идентифицировали наиболее вопиющие примеры сгенерированных статей. После этого и было решено организовать проект по поиску ИИ-текста», — сказал Леблю.
В частности, энтузиасты обнаружили статью о якобы османской крепости под названием «Амберлисихар», построенной в 1400-х годах. В тексте объемом около 2000 слов подробно описывалось местоположение и строительство этого объекта. Однако на самом деле такой крепости никогда не существовало и вся информация о ней была полностью вымышленной, но выглядела убедительно благодаря вкраплениям реальных фактов.
При этом проблема касается не только новых статей на Wikipedia. Недобросовестные пользователи вставляют ложные данные в уже существующие статьи. В одном из случаев в статью о жуке добавили раздел, посвященный виду крабов, причем с правильными ссылками на источники.
Леблю и его коллеги признают, что до конца не понимают, почему люди это делают. Однако причины очевидны. Во-первых, это проблема самой системы Wikipedia, которая позволяет каждому стать редактором. Во-вторых, интернет часто становится объектом злоупотреблений, особенно сейчас, когда появился искусственный интеллект.
