С ростом опасений по поводу влияния ИИ на подростков OpenAI внедрила в ChatGPT функцию предсказания возраста. Она выявляет несовершеннолетних пользователей и накладывает ограничения на контент в их диалогах.
ChatGPT давно вызывает критику за воздействие на детей. Несколько случаев самоубийств подростков связывают с этим чатботом. Как и другие разработчики ИИ, OpenAI упрекают в том, что сервис позволяет вести беседы на сексуальные темы с молодыми людьми. В апреле пришлось исправлять ошибку, из-за которой чатбот генерировал эротический контент для пользователей младше 18 лет.
OpenAI уже давно занимается защитой несовершеннолетних, а новая функция просто усиливает существующие меры. Алгоритм ИИ анализирует аккаунты по специальным "поведенческим и учетным сигналам", чтобы распознать юных пользователей, — об этом компания рассказала в блоге.
Среди таких сигналов — указанный пользователем возраст, срок существования аккаунта и типичное время его активности, пояснили в OpenAI. У сервиса уже есть фильтры, блокирующие разговоры о сексе, насилии и других рискованных темах для тех, кому меньше 18 лет. Как только система определяет аккаунт как несовершеннолетний, эти фильтры активируются автоматически.
Если пользователь ошибочно попал под ограничения для детей, статус можно восстановить. Достаточно отправить селфи партнеру OpenAI по верификации — сервису Persona.