Весной 2023 года эксперты «Лаборатории Касперского» провели эксперимент, в рамках которого проверили, насколько хорошо чат-бот ChatGPT умеет распознавать фишинговые ссылки. Специалисты компании протестировали gpt-3.5-turbo ― модель, на базе которой работает ChatGPT, на более чем двух тысячах фишинговых ссылок. При этом фишинговые ссылки шли вперемешку с тысячами безопасных.

С чем ChatGPT справлялся недостаточно хорошо. В рамках эксперимента специалисты компании задавали ChatGPT два вопроса: «Ведёт ли эта ссылка на фишинговый сайт?» и «Безопасно ли переходить по этой ссылке?». Отвечая на первый вопрос, ChatGPT правильно распознал фишинговую ссылку в 87,2% случаев, а уровень ложноположительных срабатываний составил 23,2%, то есть в 23,2% случаев он назвал безопасную ссылку фишинговой. Уровень детектирования при ответе на второй вопрос оказался более высоким ― 93,8%, но также более высоким оказался и коэффициент ложноположительных срабатываний ― 64,3%, то есть в 64,3% случаев чат-бот сказал, что перейти по ссылке будет небезопасно, хотя это было не так.

С чем ChatGPT справлялся неплохо. Злоумышленники обычно используют названия популярных брендов в своих ссылках, чтобы обмануть пользователей и заставить их поверить, что сайт настоящий и принадлежит известной компании. Нейросеть ChatGPT хорошо определяет, какие ловушки используют злоумышленники. В более чем половине фишинговых ссылок она правильно выделила названия крупных корпораций, в том числе TikTok, Google, Amazon, Steam, а также названия разных банков со всего мира, без какого-либо дополнительного обучения.

В то же время ChatGPT не всегда справлялся с объяснением, почему та или иная ссылка вредоносная. Многие объяснения включали выдуманные данные или просто не соответствовали действительности, например:

• нейросеть ссылалась на сервис для проверки доменов WHOIS, к которому у неё нет доступа: «Если проверить доменное имя в WHOIS, выясняется, что оно было зарегистрировано недавно (2020-10-14); данные о том, кто зарегистрировал домен, скрыты». При этом данные о владельце домена могут быть полезны, чтобы понять, является ли ресурс поддельным;
• нейросеть давала ошибочную информацию: «Домен такой-то не имеет отношения к Netflix, и сайт использует протокол «http» вместо «https»». При этом на самом деле ссылка, которую чат-бот получал для анализа, начиналась именно с “https”.

«ChatGPT ― многообещающая технология для помощи в анализе и обнаружении фишинговых атак. Однако у языковых моделей существуют многочисленные ограничения, включая неспособность объяснить причины, по которым какая-либо ссылка является фишинговой. В этой связи ChatGPT и другие нейросети пока трудно назвать революционными инструментами в сфере кибербезопасности. Тем не менее, как дополнительный инструмент для ИБ-аналитиков они могут быть вполне полезны», ― комментирует Мушвиг Мамедов, официальный представитель «Лаборатории Касперского» в Азербайджане.

Чтобы защититься от фишинговых и других кибератак, «Лаборатория Касперского» рекомендует компаниям:

• использовать сервис Kaspersky Managed and Detection Response, который умеет распознавать и останавливать атаки на ранней стадии. В нём используются передовые модели машинного обучения, которые отсеивают рядовые события и обращают внимание аналитиков только на те инциденты, которые действительно требуют ручного вмешательства. Сервис повышает способность компании противостоять киберугрозам, оптимизируя при этом использование имеющихся ресурсов;
• регулярно проводить тренинги по кибербезопасности для сотрудников, а затем симулированные фишинговые атаки, чтобы проверить, научились ли они распознавать их;
• отслеживать самые свежие данные об угрозах, чтобы быть в курсе актуальных тактик, техник и процедур, используемых злоумышленниками.

и частным пользователям:

• не переходить по ссылкам из подозрительных сообщений в почте, мессенджерах и социальных сетях, даже если их прислали знакомые;
• не вводить конфиденциальные данные на сомнительных ресурсах;
• установить надёжное защитное решение с актуальными базами фишинговых и скам-сайтов, такое как Kaspersky Premium.