Сфабрикованные кейсы в отчёте KPMG об ИИ
Отчёт KPMG «Redefining excellence in the age of agentic AI» оказался скандальным: в нём содержались вымышленные описания внедрения ИИ в таких организациях, как UBS, Национальная служба здравоохранения Великобритании (NHS), Швейцарские федеральные железные дороги (SBB) и Transport for London. Ошибки вскрыл сервис GPTZero, а издание Financial Times независимо подтвердило эти находки. Все упомянутые компании опровергли содержащиеся в отчёте утверждения.
Глава GPTZero Эдвард Тиан предупреждает: ошибочные доклады крупных консалтинговых фирм порождают «вторичные галлюцинации», поскольку таким отчётам доверяют — их цитируют как люди, так и AI-системы.
GPTZero также указывает на небрежное цитирование, которое, вероятно, и стало корнем проблемы: неаккуратное использование AI-поиска. Приведённые источники представляют собой вольные пересказы реальных материалов, часто без URL или правильных авторов. В некоторых случаях подходящего первоисточника не существовало вовсе. В GPTZero это явление называют «vibe citing» (вайб-цитирование) — проблемой, которая характерна и для AI-обзоров Google. Недавно немецкий суд признал Google ответственным за недостоверные ответы в таких обзорах.
KPMG уже удалила доклад с нескольких сайтов. Для компании это двойной конфуз: она не только распространила недостоверную информацию, но и продемонстрировала неспособность обращаться с технологией, которую активно предлагает клиентам (см. страницу услуг KPMG в области ИИ).