Сенатор предлагает четырехлетний мораторий
Сенатор Стив Падилья от Демократической партии Калифорнии внес законопроект, который запрещает на четыре года продажу и производство игрушек с ИИ-чатботами для детей младше 18 лет. Инициатива дает регуляторам безопасность время на создание норм, защищающих малышей от рискованных контактов с такими технологиями.
«Чатботы и другие ИИ-инструменты, возможно, станут частью повседневной жизни, но сегодняшние угрозы требуют решительных шагов для охраны детей. Правила безопасности для этой техники только зарождаются и должны развиваться так же быстро, как сама технология. Остановка продаж игрушек с чатботами позволит разработать нужные стандарты и рамки» — заявил сенатор Падилья.
Контекст и предыстория
Законопроект SB 867 появился после исполнительного указа президента Трампа, где федеральные органы обязаны оспаривать законы штатов об ИИ в суде. Однако указ делает исключение для норм штатов по детской безопасности. Документ также отражает недавние тревожные случаи с ИИ, чатботами и детьми.
За последний год родители подали иски против компаний после самоубийств подростков, общавшихся часами с чатботами. Например, семьи винят платформу Character.AI в смерти 14-летнего мальчика и OpenAI — в случае с ChatGPT и самоубийством сына. Падилья стал соавтором калифорнийского SB 243, уже принятого закона, обязывающего операторов чатботов вводить меры защиты для детей и уязвимых пользователей.
Проблемы с существующими игрушками
Игрушки с чатботами пока не стали массовыми, но уже фиксируют опасные диалоги. В ноябре 2025 года группа по защите прав потребителей PIRG Education Fund сообщила о проблемах с Kumma — милым плюшевым медведем с встроенным чатботом. Его легко заставить обсуждать спички, ножи и сексуальные темы. NBC News протестировала Miiloo — «ИИ-игрушку для детей» от китайской Miriat — и обнаружила, что она иногда продвигает ценности Коммунистической партии Китая.
Планы крупных компаний
OpenAI и производитель Барби Mattel собирались выпустить «продукт на базе ИИ» в 2025 году, но перенесли запуск. Причины задержки компании не раскрыли, неизвестно, выйдет ли игрушка в 2026-м.
«Дети не должны служить подопытными для экспериментов Большой Техники», — подчеркнул Падилья.