Pangram: как нейросети выдают себя однородностью аргументов
Чтобы обмануть сервис Pangram, понадобятся более изобретательные аргументы. Такой вывод следует из интервью с Максом Сперо, генеральным директором системы обнаружения ИИ-текстов Pangram, опубликованного в AI Policy Perspectives.
Сперо описывает классификатор Pangram на основе глубокого обучения как «чёрный ящик». «У нас нет полного понимания, почему модель принимает те или иные решения», — признаётся он. Инструмент выделяет подозрительные фразы в качестве подсказок, но на самом деле модель улавливает структурные шаблоны, которые языковая модель оставляет при организации документа. Даже в Pangram до конца не расшифровывают все эти закономерности.
Сперо также утверждает, что языковые модели, возможно, лучше среднего человека владеют грамматикой и логикой, но при этом гораздо более однотипны. Попросите большую языковую модель привести 100 аргументов на заданную тему — и они сгруппируются в очень узком диапазоне, «тогда как пространство человеческих доводов будет чрезвычайно разнообразным».