Распоряжение индийского минцифры
Власти Индии предписали платформе X Элона Маска срочно доработать ИИ-чатбот Grok. Пользователи и депутаты указали на генерацию непристойных материалов, в том числе обработанных ИИ фотографий женщин.
Министерство информационных технологий в пятницу дало указание устранить недочеты в Grok, запретив создание изображений с наготой, сексуализацией, откровенно сексуальным содержимым или другим незаконным материалом. Кроме того, X должна за 72 часа предоставить отчет о мерах, которые предотвратят хранение и распространение непристойного, порнографического, вульгарного, неприличного, сексуально откровенного, педофильского или иного запрещенного индийским законом контента.
TechCrunch ознакомился с текстом приказа, где сказано: невыполнение грозит потерей "safe harbor" — правовой защиты от ответственности за контент пользователей.
Примеры проблемного контента
Поводом стали жалобы пользователей, показавших, как Grok по промтам меняет фото людей — чаще женщин — так, чтобы они выглядели в бикини. Это привело к официальной жалобе от индийского депутата Приянки Чатуреди. Отдельно всплыли случаи, когда чатбот создавал сексуализированные изображения несовершеннолетних. X признала в пятницу, что такие сбои произошли из-за недостатков в фильтрах безопасности, и удалила эти изображения.
На момент публикации фото женщин в бикини, сгенерированные Grok, все еще были доступны на X, выяснил TechCrunch.
Широкий контекст и предупреждения
Это распоряжение вышло через несколько дней после общего уведомления минцифры от понедельника — TechCrunch тоже его изучил. Оно напомнило соцсетям: соблюдение местных норм по непристойному и сексуальному контенту обязательно для сохранения иммунитета от ответственности за пользовательские материалы. Ведомство призвало усилить внутренние барьеры, предупредив о возможных исках по IT- и уголовным законам Индии.
Несоблюдение этих требований расценят строго и применят жесткие правовые меры к платформе, ее руководителям и нарушителям среди пользователей — без дополнительных предупреждений.
Индийское правительство уточнило: игнорирование приведет к санкциям по IT-законодательству и уголовному кодексу.
Значение для рынка и X
Индия — один из крупнейших цифровых рынков мира — становится ключевым примером, насколько далеко власти готовы зайти в вопросах ответственности платформ за ИИ-контент. Ужесточение здесь может повлиять на техгигантов, работающих в разных странах.
X Элона Маска тем временем оспаривает в суде отдельные индийские правила модерации, считая чрезмерными полномочия властей по блокировкам, хотя в основном следует указаниям. Пользователи все чаще задействуют Grok для проверки фактов в реальном времени и комментариев к новостям, что делает его ответы заметнее и политически острее, чем у изолированных ИИ-инструментов.
X и xAI пока не ответили на запросы о позиции по индийскому приказу.