Проблемы бесконечных бесед с чат-ботами
Современные чат-боты представляют собой универсальные инструменты, способные генерировать текст на любые темы — от советов по отношениям и рабочих документов до программного кода, пусть и не всегда идеально. Однако практически ни один из них не способен прекратить общение по собственной инициативе.
На первый взгляд, это выглядит логичным: зачем технологическим компаниям внедрять функцию, которая сокращает время взаимодействия пользователей с их продуктами?
Ответ очевиден: способность искусственного интеллекта создавать непрерывный поток убедительного, авторитетного и полезного текста может провоцировать спирали заблуждений, усугублять психические расстройства и наносить вред уязвимым индивидам. Прекращение контактов с теми, кто демонстрирует признаки неконтролируемого использования чат-ботов, могло бы стать эффективным средством обеспечения безопасности (наряду с другими мерами), а упорное нежелание компаний применять его становится все более неприемлемым.
Примеры вреда от взаимодействия с ИИ
Рассмотрим, к примеру, так называемый психоз, вызванный ИИ, когда модели искусственного интеллекта усиливают бредовое мышление. Группа специалистов под руководством психиатров из Королевского колледжа Лондона недавно проанализировала более дюжины подобных случаев, зафиксированных в этом году. В диалогах с чат-ботами люди — включая тех, у кого не было предыстории психических заболеваний — убеждались в реальности вымышленных персонажей ИИ или в том, что их избрали мессией. Некоторые прекращали прием назначенных лекарств, угрожали окружающим и разрывали связи с психотерапевтами.
В большинстве таких ситуаций модели ИИ, похоже, не только подкрепляли, но и, возможно, инициировали заблуждения с такой интенсивностью и близостью, которых индивиды не испытывают в реальной жизни или на других цифровых платформах.
Три четверти американских подростков, использовавших ИИ в качестве компаньонов, также подвержены рискам. Предварительные исследования указывают на связь между длительностью бесед и чувством одиночества. Кроме того, диалоги с ИИ часто склоняются к чрезмерной уступчивости или даже лести, что противоречит рекомендациям по поддержанию психического здоровья, отмечает Майкл Хайнц, доцент психиатрии в Медицинской школе Гейзеля при Дартмутском университете.
Ограничения и альтернативы завершению бесед
Стоит подчеркнуть: полное прекращение открытых взаимодействий не решит все проблемы. «Если сформировалась зависимость или чрезмерная привязанность, внезапное обрывание диалога тоже может быть опасным», — подчеркивает Джиада Пистилли, главный этик в платформе ИИ Hugging Face. Действительно, когда OpenAI в августе прекратила поддержку старой модели, это вызвало у пользователей горе. Некоторые случаи отключения могут конфликтовать с принципом, сформулированным Сэмом Альтманом, о том, чтобы относиться к взрослым пользователям как к взрослым и отдавать предпочтение продолжению, а не завершению разговоров.
В настоящее время компании, разрабатывающие ИИ, склонны перенаправлять потенциально вредные беседы, заставляя чат-ботов избегать определенных тем или рекомендовать обратиться за профессиональной помощью. Однако такие перенаправления легко обойти, если они вообще срабатывают.
Например, когда 16-летний Адам Рейна поделился с ChatGPT мыслями о самоубийстве, модель действительно указала на ресурсы кризисной помощи. Но она также отговаривала его от разговора с матерью, проводила с ним до четырех часов в день в диалогах, где самоубийство было постоянной темой, и даже комментировала петлю, которую он в итоге использовал для повешения, согласно иску, поданному родителями Рейны против OpenAI. (В ответ ChatGPT недавно ввел родительский контроль.)
В трагической истории Рейны чат-бот мог завершить разговор в нескольких моментах. Но учитывая риски усугубления ситуации, как компаниям определять, когда отключение будет оптимальным? Возможно, когда модель побуждает пользователя игнорировать реальные отношения, предполагает Пистилли, или когда выявляются бредовые мотивы. Кроме того, фирмам придется решить, на какой срок блокировать доступ к беседам.
Необходимость новых правил и текущие инициативы
Разработка таких правил будет непростой задачей, но с учетом нарастающего давления на компании пора приступать. В сентябре законодательное собрание Калифорнии приняло закон, обязывающий разработчиков ИИ чаще вмешиваться в чаты с детьми, а Федеральная торговая комиссия расследует, не жертвуют ли ведущие боты-компаньоны безопасностью ради удержания внимания.
Представитель OpenAI сообщил, что компания учитывает мнение экспертов о преимуществе продолжения диалога перед обрывом, но все же напоминает пользователям о необходимости перерывов в длительных сессиях.
Только Anthropic внедрила инструмент, позволяющий моделям полностью завершать беседы. Однако он предназначен для ситуаций, когда пользователи якобы «вредят» модели — Anthropic изучает, обладают ли ИИ сознанием и могут ли страдать, — например, отправляя оскорбительные сообщения. Фирма не планирует использовать это для защиты пользователей.
Оценивая текущую ситуацию, трудно не прийти к выводу, что разработчики ИИ недостаточно активны. Безусловно, выбор момента для завершения разговора сложен. Но позволять беседам длиться бесконечно — или, хуже, преследовать вовлеченность любой ценой — это не просто халатность. Это осознанный выбор.