Фейковый инсайдер из доставки еды
Пользователь Reddit, назвавшийся разоблачителем из сервиса доставки еды, на деле оказался выдумкой. Он опубликовал пост, который разлетелся по сети, обвиняя свою компанию в обмане водителей и клиентов.
«Вы всегда думаете, что алгоритмы настроены против вас, но правда куда печальнее любых теорий заговора», — писал этот якобы инсайдер.
Он утверждал, что пьян и сидит в библиотеке, чтобы воспользоваться бесплатным Wi-Fi, и изливает душу в длинном тексте. По его словам, фирма использует лазейки в законах, чтобы безнаказанно отбирать чаевые и зарплату у курьеров.
Такие обвинения звучали правдоподобно: DoorDash и правда попала под суд за кражу чаевых у водителей, заплатив в итоге 16,75 миллиона долларов по мировому соглашению. Но здесь автор просто все придумал.
На просторах интернета врут сплошь и рядом. Редко бывает, чтобы подобный пост вырвался на главную Reddit, собрал свыше 87 тысяч апвоутов и перекочевал на X, где набрал 208 тысяч лайков и 36,8 миллиона просмотров.
Как журналист раскрыл обман
Журналист Кейси Ньютон из издания Platformer связался с автором поста. Тот ответил через Signal и прислал фото бейджа сотрудника UberEats плюс внутренний документ на 18 страниц. В нем якобы описывалось, как компания применяет ИИ для расчета «индекса отчаяния» отдельных водителей.
Ньютон попытался проверить подлинность, но понял, что его водят за нос с помощью ИИ-обмана.
«Большую часть карьеры такой документ от инсайдера казался бы убедительным — ведь на его создание уходит уйма времени, — писал Ньютон. — Кто станет тратить часы на подробный 18-страничный техдок о рыночных механизмах ради троллинга журналиста? Кто заморочится с фейковым бейджем?»
Злоумышленники всегда пытались обманывать прессу, но с появлением ИИ-инструментов проверка фактов требует вдвое больше усилий.
Генеративные ИИ-модели плохо отличают синтетические фото или видео от настоящих, что усложняет разбор контента. Здесь Ньютон применил Google Gemini, который выявил ИИ-происхождение изображения по водяному знаку SynthID от Google. Этот маркер выдерживает обрезку, сжатие, фильтры и прочие манипуляции.
Борьба с ИИ-мусором в сети
Макс Сперо, основатель Pangram Labs — компании, разрабатывающей детектор ИИ-текста, — ежедневно сталкивается с задачей разделения реального и поддельного контента.
«ИИ-мусор в интернете стал гораздо хуже, и дело не только в росте популярности больших языковых моделей — есть и другие причины, — рассказал Сперо TechCrunch. — Фирмы с миллионами выручки заказывают «органический трафик» на Reddit: это значит запускать вирусные посты, сгенерированные ИИ, с упоминанием их бренда».
Инструменты вроде Pangram помогают распознавать ИИ-текст, но с мультимедиа надежность ниже. К тому же, даже разоблаченный фейк может разлететься по сети раньше, чем его поймают. Приходится рыться в соцсетях как детективам, сомневаясь в каждом увиденном материале.
Пример: когда я сказал редактору про «вирусный ИИ-фейк про доставку еды на Reddit на выходных», она подумала о другом случае. Да, в те же дни на Reddit всплыло сразу несколько подобных историй с ИИ и доставкой еды.