ChatGPT получил новую функцию — OpenAI внедрила в нейросеть инструмент, призванный помогать пользователям не отрываться от реальности. Функция будет напоминать пользователям о необходимости сделать перерыв при длительном общении с искусственным интеллектом.
Такое решение было принято на фоне растущих опасений по поводу влияния ИИ на психическое здоровье пользователей. В июне издание The New York Times опубликовало материал о склонности ChatGPT к беспрекословному согласию и генерации ложной или потенциально опасной информации, что приводило к тому, что некоторые пользователи, включая людей с психическими расстройствами, погружались в деструктивные разговоры, вплоть до обсуждения суицидальных мыслей. При этом чат-бот не всегда корректно пресекал подобные диалоги. Теперь чат-бот должен будет лучше распознавать чувствительные темы, а также следить за временем, которое с ним проводит пользователь.
«Мы создали ChatGPT, чтобы помочь вам добиться успеха во всех сферах, в которых вы хотите преуспеть. Чтобы вы могли развиваться, узнавать что-то новое или решать проблемы, а затем возвращаться к своей жизни. Наша цель — не удерживать ваше внимание, а помочь вам использовать время с пользой», — отмечают представители OpenAI.
Во всплывающем окне появятся две кнопки: «Продолжить общение» и «Полезное напоминание». Сколько минут или часов нужно провести в чате, чтобы получить уведомление, неизвестно. OpenAI планирует «корректировать» и время, и ситуации, в которых оно всплывает. ChatGPT теперь будет присылать пользователям «мягкие напоминания» сделать перерыв в случае, если они проводят в разговорах с ИИ-ботом слишком много времени. При работе с чувствительными темами, например, если пользователь будет обсуждать свои отношения, чат-бот, вместо того, чтобы давать прямой ответ, будет помогать взвесить «за» и «против» и обдумать решение самостоятельно.
Помимо этого, OpenAI работает над тем, чтобы ChatGPT мог лучше распознавать признаки стресса и эмоциональных проблем. Если нейросеть заметит что-то тревожное, она перенаправит пользователя за более надежной помощью. Для этого компания привлекла более 90 врачей из 30 стран и создала категории для сложных многоэтапных диалогов.
