Нью-Йорк стал первым штатом в США, где компании обязаны сообщать о применении алгоритмов и личных данных для определения цен. Федеральный суд отверг попытки бизнеса помешать этому правилу.
Как сообщает New York Times, нововведение направлено против того, что контролеры называют слежкой за покупателями через цены. Теперь продавцы в интернете обязаны предупреждать клиентов, если стоимость товаров рассчитывается на основе их личной информации и искусственного интеллекта. Это помогает избежать тайных наценок, например когда одним людям предлагают завышенные цены только из-за их достатка. Фирмы, использующие такие подходы, должны выводить уведомление о том, что цена сформирована алгоритмом с учетом данных о клиенте.
Национальная федерация розничной торговли пыталась заблокировать закон через федеральный суд, заявляя, что требование к раскрытию вводит в заблуждение и нарушает свободу слова. Судья Джед С. Ракофф отклонил эти претензии.
Новый этап в регулировании ИИ
Специалисты считают, что это правило может стать ключевым примером для других регионов. Адвокат по вопросам ИИ и конфиденциальности Голи Махдави в беседе с New York Times отметила, что алгоритмы ценообразования вот-вот превратятся в главную арену споров с регуляторами. Похожие идеи уже обсуждают в Калифорнии и на федеральном уровне.
Лина Хан, экс-глава Федеральной торговой комиссии, назвала шаг необходимым для надзорных органов и предупредила, что без него покупателям придется полагаться на подсказки, чтобы разобраться в динамических ценах.
Закон ЕС об ИИ подходит к теме иначе. Он запрещает некоторые манипулятивные методы и устанавливает жесткие стандарты для систем высокого риска в финансах или госуправлении. Алгоритмы цен в онлайн-магазинах обычно не считаются высокорисковыми, но попадают под более строгие нормы, если используют слабости потребителей или влияют на кредиты и страховку.
Пока в Европе основные ограничения на слежку через цены исходят из законов о защите потребителей и приватности, плюс грядущие меры вроде Закона о цифровой честности, который должен ограничить темные паттерны и чрезмерную персонализацию в онлайн-торговле.