Ant International побеждает в конкурсе NeurIPS по честному ИИ
Финтех-компания Ant International, работающая в сфере цифровых платежей, одержала победу в соревновании NeurIPS Competition of Fairness in AI Face Detection. Компания подчёркивает, что ориентируется на создание безопасных и инклюзивных финансовых сервисов, особенно с учётом того, что технологии дипфейков стремительно распространяются.
Алгоритмическая предвзятость в распознавании лиц
Широкое внедрение систем распознавания лиц в разных отраслях обострило проблему алгоритмической предвзятости в ИИ. Исследования Национального института стандартов и технологий США (NIST, National Institute of Standards and Technology) показывают, что многие популярные алгоритмы распознавания лиц допускают существенно больше ошибок при анализе изображений женщин и людей с тёмным цветом кожи. Такая разница связана как с недостаточной представленностью разных групп в обучающих выборках, так и с тем, кто создаёт и контролирует крупные ИИ-платформы.
Последствия предвзятых алгоритмов могут быть серьёзными: от отказа в доступе к финансовым продуктам для значительной части населения до уязвимостей в системах безопасности, которые полагаются на биометрическую аутентификацию.
Конкурс NeurIPS: задача и результаты
Соревнование проходило в рамках конференции по нейронным информационным системам Conference on Neural Information Processing Systems (NeurIPS), одной из наиболее авторитетных площадок в области ИИ. Участникам предлагалось разработать модели, которые обеспечивают и высокую точность, и справедливость работы сразу по нескольким демографическим признакам: пол, возраст и оттенок кожи.
Команда Ant International обошла более 2 100 заявок от 162 команд со всего мира. Участникам нужно было надёжно определять 1,2 миллиона сгенерированных ИИ изображений лиц, подобранных таким образом, чтобы как можно лучше отражать разнообразие демографических групп.
Архитектура модели: Mixture of Experts и механизм обнаружения смещения
Победившая модель Ant опирается на архитектуру Mixture of Experts (MoE), дополненную механизмом выявления предвзятости. Подход строится на одновременном обучении двух конкурирующих нейросетей.
- Первая сеть специализируется на обнаружении дипфейков и других манипуляций с изображениями лиц.
- Вторая сеть нацелена на то, чтобы «оспаривать» решения первой, вынуждая её игнорировать демографические особенности вроде пола, возраста и тона кожи.
Такое динамическое противостояние помогает модели фокусироваться именно на реальных признаках подделки, а не на статистических закономерностях, связанных с определёнными группами пользователей. Для обучения использовался глобально репрезентативный датасет, отражающий многообразие стран и регионов. Дополнительно в тренировочный процесс были включены сценарии, характерные для реальных случаев мошенничества с платежами, чтобы модель сохраняла эффективность при работе в промышленных масштабах.
Безопасность и честность: комментарий Ant International
«Предвзятая система ИИ по определению небезопасна», — подчёркивает д-р Тяньи Чжан, генеральный менеджер по управлению рисками и кибербезопасности в Ant International. — «Справедливость нашей модели — это не только вопрос этики; она критична для защиты от дипфейков и надёжной проверки личности каждого пользователя».
Внедрение технологии в продукты Ant
Решение, представленное на конкурсе, уже интегрируется в платёжные и финансовые сервисы Ant International для противодействия дипфейкам. По заявлению компании, технология обеспечивает точность обнаружения более 99,8% для всех демографических групп во всех 200+ рынках, где Ant ведёт деятельность.
Такая система помогает клиентам Ant соответствовать глобальным требованиям Electronic Know Your Customer (eKYC), в том числе на этапе онбординга новых пользователей, снижая риск дискриминации по признаку пола, возраста или происхождения. Это особенно важно для развивающихся стран, где расширение доступа к финансовым услугам часто сталкивается с препятствиями, и любой алгоритмический перекос может дополнительно ограничивать финансовую инклюзию.
AI SHIELD и защита платежей от дипфейков и мошенничества
Ant International обслуживает более 150 миллионов продавцов и 1,8 миллиарда пользовательских аккаунтов. Среди наиболее известных сервисов компании — Alipay+, Antom, Bettr и WorldFirst. Компания заявляет, что безопасность ИИ — один из ключевых элементов её стратегии.
В центре системы управления рисками Ant находится фреймворк AI SHIELD, построенный на базе решения AI Security Docker. Он помогает снижать риски, связанные с использованием ИИ-сервисов, включая несанкционированный доступ к системам и утечки данных.
AI SHIELD служит основой для комплекса инструментов по управлению рисками, которые обеспечивают более широкую защиту финансовых операций. В эти решения входят механизмы противодействия дипфейк-атакам и другим видам мошенничества.
Одно из таких решений — Alipay+ EasySafePay 360. По данным компании, его внедрение позволило сократить количество захватов аккаунтов в цифровых кошельках на 90%. Это пример того, как устойчивость к дипфейкам и алгоритмическая честность напрямую влияют на снижение реальных финансовых потерь.