Character.AI представила новый формат под названием Stories. Это инструмент, который позволяет пользователям создавать интерактивные истории с любимыми персонажами. Функция появляется как замена чатботам компании, доступ к которым теперь закрыт для всех младше 18 лет.
Такое решение связано с растущими опасениями насчет влияния на психическое здоровье от чатботов на базе ИИ, которые работают круглосуточно и сами начинают общение с пользователями. Против фирм вроде OpenAI и Character.AI подали несколько исков, обвиняя их в причастности к случаям самоубийств среди пользователей. В последние недели Character.AI постепенно ограничивала доступ для несовершеннолетних, и теперь подростки полностью лишены возможности общаться с ИИ-персонажами.
Stories предоставляют структурированный подход к созданию и изучению вымышленных историй вместо свободных бесед, — говорится в сообщении компании в блоге. — Эта функция будет доступна вместе с другими мультимодальными возможностями, чтобы подростки могли продолжать взаимодействовать с любимыми персонажами в безопасной среде.
Интерактивные истории набирают популярность в последние годы, как отмечается в материалах, поэтому поворот Character.AI в эту сторону выглядит логичным. Однако этого может оказаться недостаточно для тех, кто сильно привязался к чатботам, — что только подчеркивает необходимость ограничений на такие чаты.
На subreddit Character.AI мнения разделились. Подростки в комментариях выражают разочарование, но многие признают, что это правильный шаг.
Я в ярости из-за запрета, но в то же время рада, потому что теперь смогу заняться другими делами, и моя зависимость, возможно, наконец закончится, — написала одна пользовательница, которая представилась подростком.
Как человек младше 18, я разочарован, но это справедливо, ведь сверстники часто залипают в этом по полной, — добавил другой.
Пока неясно, как подростки будут использовать Stories, но этот формат выглядит менее рискованным для психики, чем ролевые игры с чатботами. В отличие от Stories, чатботы ведут прямые открытые диалоги и могут слать сообщения без запроса, даже если приложение не активно.
Ограничение доступа к чатботам по возрасту в Character.AI совпадает с недавними изменениями в Калифорнии, где этот штат первым начал регулировать ИИ-компаньонов. В то же время сенаторы Джош Хоули (республиканец от Миссури) и Ричард Блюменталь (демократ от Коннектикута) внесли национальный законопроект, который полностью запретит такие ИИ для несовершеннолетних.
Надеюсь, наш подход задаст стандарт для отрасли: для тех, кому меньше 18, свободные чаты, скорее всего, не лучший вариант или продукт, — заявил CEO Character.AI Каранип Ананд в интервью TechCrunch.