Мередит Уиттакер: ИИ-чат-боты не ваши друзья
Отвечая на вопрос о последствиях для конфиденциальности таких чат-ботов, как ChatGPT и Claude, президент Signal Мередит Уиттакер заявила:
«Это не ваши друзья. Это не сознательные существа. Это не разумные собеседники».
Эти комментарии прозвучали в большом интервью Bloomberg, посвящённом политике, приватности и Signal. Уиттакер призналась, что иногда использует ИИ-инструменты «для форматирования документов», но подчеркнула: «Я не задаю им вопросы. Я очень серьёзно отношусь к своим мыслям и письму, и не хочу, чтобы процесс работы над идеей [...] был вытеснен или затмён ответом системы, усредняющей то, что уже существует».
Сценарий Copilot: бэкдор в Signal
Коснувшись прогноза генерального директора Microsoft AI Мустафы Сулеймана (интервью Bloomberg) о том, что пользователи смогут доверить Copilot все рождественские покупки в этом году, Уиттакер проанализировала этот сценарий. По её словам, для того чтобы Copilot подслушивал семейный групповой чат и определял, кто чего хочет, ему потребуется доступ к кредитной карте, браузеру, Signal, возможности отправлять сообщения от лица пользователя, домашнему адресу и календарю.
«То, что вы только что описали, — это система с очень широким доступом ко множеству приложений и сервисов, — сказала Уиттакер. — В контексте Signal это было бы своего рода бэкдором».