OpenAI внедряет в ChatGPT механизм предсказания возраста, чтобы выявлять аккаунты несовершеннолетних и активировать для них нужные ограничения и меры защиты. Система оценивает паттерны поведения: время активности, продолжительность существования аккаунта и указанный при регистрации возраст. Если аккаунт помечают как принадлежащий человеку младше 18 лет, ChatGPT сразу блокирует контент с графическим насилием, сексуальными ролевыми играми, изображениями самоповреждений и материалами о чрезмерных стандартах красоты.
Такое нововведение выходит после объявления OpenAI о доступе взрослых к ранее запрещенному контенту, что сделало проверку возраста обязательным шагом. Оно также связано с случаями, когда подростки попадали в опасную зависимость от ИИ-чатботов, иногда с летальным исходом.
Взрослым, которых система ошибочно сочла несовершеннолетними, доступна верификация возраста через селфи в сервисе Persona. Родители получают расширенные инструменты контроля: обязательные паузы в использовании и уведомления при обнаружении признаков острого эмоционального расстройства. Функция заработает в странах ЕС в ближайшие недели. Подробности на странице помощи OpenAI.