Крупнейшие платформы отключают человекоподобные ИИ-персоны
ByteDance и Alibaba отключают функции, позволявшие пользователям создавать и общаться с собственными ИИ-компаньонами, реагируя на новые требования китайских властей. По сообщению South China Morning Post, Doubao — самый востребованный чат-бот Китая с более чем 300 миллионами активных пользователей в месяц — отключит функцию персон 15 июля. Alibaba убирает человекоподобных агентов в Qwen ещё раньше — 10 июля, а «дополнительные функции агентов» станут недоступны 15 июля. Tencent ранее в июне уже пошла на аналогичный шаг, отключив персоны в Yuanbao.
Новые правила китайского регулятора
Правила, вступающие в силу сегодня, были опубликованы Управлением киберпространства Китая в апреле. Провайдеры обязаны предупреждать пользователей о рисках чрезмерного использования и вмешиваться при обнаружении признаков зависимости. Запрещён контент, который вызывает сильные эмоции у несовершеннолетних или формирует зависимость, вытесняющую реальные отношения. Кроме того, введён запрет на обучение моделей на данных особо чувствительных разговоров.
Мировой тренд: регулирование ИИ-компаньонов
Похожие меры принимают и за пределами Китая. В Калифорнии с начала года действует закон SB 243, который обязывает сервисы ИИ-компаньонов блокировать разговоры, связанные с суицидом и самоповреждениями. В США OpenAI и Character.AI уже столкнулись с судебными исками из-за опасной эмоциональной зависимости, которую их чат-боты могут вызывать у пользователей.