Компания OpenAI объявила о запуске функции прогнозирования возраста для потребительских тарифных планов ChatGPT. Новый алгоритм будет следить за тем, как себя ведет пользователь, и самостоятельно определять его возраст, для того, чтобы оградить от нежелательного контента.
OpenAI была вынуждена пойти на эти меры, так как Федеральная комиссия по торговле США ведет расследование в отношении разработчиков популярных чат-ботов, с целью выявления потенциально негативного влияния их на детей и подростков. Компания выступает ответчиком по нескольким делам о причинении смерти по неосторожности, включая один инцидент с предполагаемым доведением подростка до самоубийства.
Для прогнозирования возраста ИИ будет сопоставлять ряд факторов — возраст, указанный в профиле, продолжительность существования аккаунта и время суток, когда пользователь наиболее активен. Если ChatGPT «вычислит», что владельцу учетной записи еще не исполнилось 18 лет, он автоматически примет дополнительные меры защиты, направленные на снижение риска доступа к нежелательной информации, такой как насилие и жестокость, челленджи, способствующие рискованному поведению, сексуальные, романтические или жестокие ролевые игры, селфхарм, экстремальные стандарты красоты, нездоровые диеты и бодишейминг.
Пользователи, ошибочно попавшие в категорию лиц младше 18 лет, смогут подтвердить свой возраст и восстановить полный доступ, отправив селфи через сервис проверки личности Persona.
Помимо функции прогнозирования возраста, OpenAI еще осенью прошлого года ввела в ChatGPT средства родительского контроля, которые позволяют людям понимать, какие запросы отправляют в чат-бот их дети и к какой информации они имеют доступ.
