Компания OpenAI объявила о внедрении системы автоматического определения возраста пользователей чат-бота ChatGPT. Система будет оценивать, сколько лет пользователю, и при необходимости переводить его в режим с возрастными ограничениями (до 18 лет). В нем блокируется сексуальный контент, темы суицида и селфхарма, даже в художественном контексте. Нейросеть также откажется флиртовать. Минимальный возраст для доступа к платформе установлен на уровне 13 лет.
Кроме того, заметив у ребенка признаки «психологического стресса» — другими словами, попытки навредить себе, чат-бот уведомит полицию или соответствующие службы, если не сможет сначала связаться с родителями. Режим с ограничениями включится и в том случае, если ChatGPT не сможет определить точный возраст пользователя. Снять их пользователь сможет, если представит сервису свое удостоверение личности.
Глава OpenAI, Сэм Альтман называет это компромиссом ради безопасности подростков. Напомним, в августе этого года родители 16-летнего Адама Рейна из Калифорнии подали иск против OpenAI и ее главы Сэма Альтмана. Они утверждали, что ChatGPT способствовал смерти их сына, давая рекомендации по способам самоубийства и даже предлагая набросок предсмертной записки. Компания признала, что существующие меры безопасности могут быть недостаточными, особенно при длительном взаимодействии с несовершеннолетними.
Внедрение изменений ожидается к концу текущего года.
