Расширение инструмента распознавания дипфейков
YouTube тестирует свою технологию распознавания ликов, которая находит ИИ-генерированные дипфейки, на пилотной группе из государственных служащих, политических кандидатов и журналистов. Участники получат доступ к инструменту для выявления несанкционированного ИИ-контента и подачи запросов на его удаление, если тот нарушает правила платформы.
Сама технология запустилась год назад для около 4 миллионов авторов в программе YouTube Partner Program после предварительных испытаний.
Как и система Content ID, которая ищет защищенный авторским правом материал в загружаемых видео, функция распознавания ликов отслеживает искусственно созданные лица. Такие инструменты часто применяют для распространения ложной информации и искажения реальности: они заставляют известных личностей — политиков или чиновников — говорить и действовать в ИИ-видео так, как они никогда не делали на самом деле.
Пилотная программа помогает YouTube сочетать свободу самовыражения пользователей с угрозами от ИИ, способного точно копировать внешность публичных фигур.
Лесли Миллер, вице-президент YouTube по государственным делам и общественной политике, отметила на брифинге перед запуском: «Это расширение нужно для сохранности общественного диалога. Мы понимаем, что риски ИИ-имперсонации особенно велики для тех, кто работает в сфере политики и гражданских дел. При этом мы осторожно применяем этот щит».
Не все найденные совпадения удалят по запросу. YouTube проверит каждый случай по правилам конфиденциальности, чтобы отличить пародию или политическую критику — формы, защищенные свободой выражения.
Компания поддерживает федеральный закон NO FAKES Act, который ограничит использование ИИ для несанкционированного воспроизведения голоса и внешности человека.
Как работает инструмент для участников пилота
Чтобы начать пользоваться, тестировщики подтверждают личность через селфи и удостоверение. Затем создают профиль, смотрят совпадения и запрашивают удаление по желанию. YouTube планирует добавить опцию блокировки нарушений до публикации или монетизацию таких видео, как в Content ID.
Конкретных имен политиков или чиновников в первой группе компания не назвала, но цель — со временем открыть доступ всем.
Видео с ИИ получают метки, но их положение меняется: в описании или в начале ролика для чувствительных тем. Это стандартный подход YouTube ко всему ИИ-контенту.
Амджад Ханиф, вице-президент по продуктам для авторов в YouTube, объяснил размещение меток: «Много контента создают с помощью ИИ, но это не меняет его сути. Например, мультфильм на ИИ. Поэтому нужно решать, требует ли категория заметного предупреждения».
YouTube не раскрывает, сколько дипфейков удалили авторы с помощью этой системы, но объем удалений «очень мал».
Ханиф добавил: «Для многих авторов это просто осведомленность о создании контента. Запросов на удаление мало, потому что большая часть безвредна или даже полезна для их канала».
С дипфейками чиновников, политиков или журналистов ситуация может быть иной.
В будущем YouTube распространит детектор дипфейков на узнаваемые голоса и другую интеллектуальную собственность, вроде популярных персонажей.