Модели ИИ, предназначенные для общения с людьми, набирают популярность. Пользователи все чаще заводят связи с чатботами, ожидая от них не только помощи в делах, но и эмоциональной поддержки.
Приложения вроде Character.ai или Replika недавно привлекли миллионы пользователей. Некоторые фирмы внедряют ИИ в игрушки и настольные гаджеты, перенося цифровых собеседников в реальный мир. Такие устройства демонстрировали на CES, включая разработки для детей, пожилых и даже домашних питомцев.
ИИ-компаньоны имитируют человеческие отношения, общаясь как друзья. Однако связи между людьми и ИИ остаются малоизученными. Разработчики беспокоятся, перевешивают ли плюсы минусы и возможный вред, особенно для молодежи. Кроме вопросов психического здоровья и эмоционального комфорта, обмен личными данными с чатботом вызывает проблемы конфиденциальности.
Тем не менее пользователи все чаще ценят такие связи. Как разобраться в узах между людьми и чатботами? Джейми Бэнкс, профессор Школы информационных исследований Сиракузского университета, изучает взаимодействие людей с техникой, в особенности с роботами и ИИ. Она поделилась мыслями о том, как люди воспринимают машины и выстраивают с ними отношения.
Определение ИИ-компаньонства
Как определить ИИ-компаньонство?
Джейми Бэнкс: Определение меняется по мере новых знаний об этих связях. Пока я вижу его как двустороннюю связь человека и машины с обменом. Она длится во времени, разовый контакт не считается. Связь положительная — она приятна. И аутотелическая — ради нее самой, без внешних целей вроде работы или заработка.
Недавно это определение подверглось проверке при создании шкалы для измерения. После валидации я заметила: некоторые переходят к чисто аутотелической модели. "Я ценю ИИ таким, какой он есть, люблю его и не хочу менять". Это вписывалось. Но есть другой шаблон: ценить ИИ сам по себе плюс использовать для практических нужд.
Логично, учитывая, как люди приходят к ИИ-компаньонам. Часто не за дружбой. Многие начинают с ChatGPT для других задач и неожиданно находят в нем собеседника. Есть приложения вроде Replika, Nomi, Paradot для общения, но они справляются и с бытовыми вопросами.
Разные модели имеют разные "личности". Как это влияет на отношения с ИИ-компаньонами?
Бэнкс: Один из наших аспирантов завершил проект о последствиях понижения GPT-4o от OpenAI. Пользователи жаловались: личность ИИ изменилась, глубина пропала, память ослабилась — опыт общения пострадал.
Похоже на случай Replika пару лет назад. Из-за юридических проблем отключили эротические ролевые игры, и компаньоны показались "лоботомизированными" — связь оборвалась. В моем исследовании о крахе приложения для душматов многие сказали: "Больше не верю компаниям ИИ. Нужен компаньон, который работает локально на моем ПК".
Плюсы и минусы отношений с ИИ
Какие плюсы и минусы в таких отношениях?
Бэнкс: О рисках говорят много, о плюсах — мало. Но пока нет долгосрочных данных для причинно-следственных выводов. Заголовки пугают концом света: ИИ якобы толкает на самоубийство или отказ от людей. Часто это редкие трагедии.
Ученые давно отказались от техно-детерминизма. Мы сохраняем свободу в общении с техникой. Но паника вокруг рисков детерминистская: ИИ якобы делает людей бредовыми, суицидальными, отталкивает от реальных связей. Многие же получают реальную пользу, описывают глубокий смысл. Игнорировать их опыт безответственно.
По поводу одиночества и ИИ данных мало для причинности. Одни исследования видят рост одиночества, другие — снижение, третьи ставят его причиной. Социальная связь — базовая нужда психики. Без нее ищем в волейболе для одиночки, собаке или ИИ.
Некоторые, включая власти, склонны к защите. Личные данные в руках компании — серьезно. Дети путают вымысел и реальность. Проблемы реальны. Но нужно баланс: думать о пользе, продуктивности, здоровье. Ученые — осторожны в выводах, пользователи — учатся.
Почему ИИ-компаньоны популярны именно сейчас?
Бэнкс: Сошлись звезды: зрелость больших языковых моделей плюс выход из COVID с изоляцией. Появился правдоподобный социальный агент, когда люди искали контакты. Плюс мы стали грубее друг с другом. Если окружающие не нравятся или связь потеряна, ищешь альтернативу.
Недавно популярны воплощенные компаньоны — в настольных устройствах за пределами чатботов. Меняет ли это отношения?
Бэнкс: В группе Facebook о роботах-компаньонах вижу: игрушка переходит в компаньона. Физическое тело ограничивает, в отличие от цифрового ИИ с фантазиями и невозможными мирами.
В робототехнике продвинутые тела дороги и недоступны. В группах отмечают: игрушкоподобные — по карману, но ограничены.
Есть любимые примеры из поп-культуры для объяснения ИИ-компаньонства — нынешнего или будущего?
Бэнкс: Обожаю короткие рассказы в Clarkesworld — они заставляют думать о вопросах для гибридного общества. Выделю "Wanting Things", "Seven Sexy Cowboy Robots", "Today I Am Paul". Еще игра Cyberpunk 2077: персонаж Johnny Silverhand размывает грань между машиной и компаньоном.