Спорная функция Grammarly
Grammarly недавно запустила возможность, где искусственный интеллект имитирует редакторские замечания, будто их дают писатель Стивен Кинг, покойный ученый Карл Саган или техно-журналистка Кара Суишер. Компания включила сотни экспертов в эту функцию под названием "Expert Review", но не спросила их разрешения на использование имен.
Коллективный иск от Джулии Ангвин
Журналистка Джулия Ангвин, чье имя пострадало от этого, подала коллективный иск против Superhuman — компании-владельца Grammarly. Она считает, что это нарушает права на приватность и публичность ее и других задействованных писателей. Такой иск дает шанс другим авторам присоединиться к делу.
Я десятилетиями оттачивала мастерство писателя и редактора, и меня шокирует, что техкомпания торгует фальшивой копией моего опыта.
Ситуация полна иронии: Ангвин всю карьеру занималась расследованиями о влиянии техгигантов на личные данные. В функции Grammarly оказалась и известный специалист по этике ИИ Тимнит Гебру, критикующая подобные технологии.
Качество отзывов и тест Кейси Ньютонa
"Expert Review" предлагали только платным пользователям за 144 доллара в год, но обещания глубокого анализа не оправдались.
Кейси Ньютон, создатель техно-рассылки Platformer и еще одна жертва имитации, загрузил в инструмент свою статью. ИИ в роли Кары Суишер выдал такой отзыв:
Не могли бы вы кратко сравнить, как ежедневные пользователи ИИ и их скептики описывают риски, чтобы выстроить четкую линию для читателей?
Этот банальный совет заставляет задуматься, зачем Grammarly вообще приплетала реальных авторов. Ньютон показал сообщение настоящей Каре Суишер.
Вы, алчные воры данных и личностей, держитесь — я на вас в стиле Макконахи обрушусь. И вы вообще никудышные.
Реакция Grammarly и позиция CEO
Grammarly отключила "Expert Review", сообщил в LinkedIn глава Superhuman Шишер Мехротра. Он принес извинения, но не отказался от концепции.
Представьте: профессор доводит ваше эссе до блеска, руководитель по продажам перестраивает питч клиенту, строгий критик проверяет аргументы на прочность или топовый специалист выводит предложение на новый уровень. Экспертам это дает возможность создать тесную связь с пользователями, подобно той, что есть у Grammarly.