OpenAI начала использовать инструмент для определения возраста пользователей чат-бота ChatGPT, говорится в сообщении компании.
Модель прогнозирования возраста будет определять, принадлежит аккаунт лицу младше или старше 18 лет. Модель учитывает поведенческие и иные сигналы на уровне учетной записи, включая продолжительность существования аккаунта, типичное время активности, особенности использования с течением времени и указанный пользователем возраст.
К аккаунтам несовершеннолетних автоматически применят «дополнительные меры защиты» для снижения риска доступа к чувствительному контенту, включая сцены насилия, опасные челленджи, сексуализированные или жестокие ролевые игры, самоповреждения, вредные стандарты внешности и питания.
В OpenAI отметили, что выбранный подход основан на мнении экспертов, опирается на научную литературу о развитии ребенка и учитывает различия между подростками в восприятии риска, контроле импульсов, влиянии сверстников и эмоциональной регуляции.
«Хотя эти ограничения контента помогают снизить вероятность того, что подростки столкнутся с чувствительным контентом, мы сосредоточены на том, чтобы постоянно совершенствовать эти меры защиты, особенно для противодействия попыткам обойти наши защитные механизмы. Когда мы не уверены в возрасте человека или у нас нет полной информации, мы по умолчанию предоставляем более безопасный вариант использования системы», — говорится в сообщении.
Те пользователи, которых по ошибке отнесут к категории несовершеннолетних, смогут подтвердить свой возраст с помощью селфи через сервис проверки личности Persona. После прохождения процедуры доступ к ChatGPT полностью восстановят.
Ранее Spot писал что, в Казахстане разработали ИИ-модель для распознавания тюркских языков.
