Имран Хан руководит направлением психосоциальной оценки ИИ в некоммерческой организации Center for Humane Technology. В недавнем эссе он обратил внимание на парадокс: технологии ИИ уже меняют наше мышление, отношения и поведение, однако системных попыток измерить эти эффекты почти не предпринимается. Стремление внимательнее взглянуть на психосоциальные последствия искусственного интеллекта напоминает дебаты вокруг соцсетей, но, по мнению Хана, ИИ способен оказывать более глубокое и личное воздействие. Фиксация на производительности и прогрессе моделей оставляет без ответа главный вопрос: помогает ли технология людям процветать или, наоборот, подрывает наши ключевые способности. В беседе с IEEE Spectrum Хан объяснил, почему оценка ИИ так узка, как можно осмысленно измерять влияние на человека и есть ли у индустрии стимулы вообще задаваться этими вопросами.
Ключевое упущение: мы измеряем способности ИИ, а не последствия для человека
По мнению Хана, сегодня мы досконально замеряем, на что способны системы ИИ, но почти не оцениваем, что они делают с людьми. Погружаясь в среду разработки, невозможно не заметить впечатляющий прогресс: модели соревнуются в тестах вроде SWE-bench, «последнего экзамена человечества» (Humanity’s Last Exam) или LLM Arena. Но параллельно происходят пугающие вещи — самоубийства подростков, случаи «ИИ-психоза». Получается парадокс: мы тратим силы на замеры подчас малопонятных и не имеющих отношения к повседневной жизни людей показателей, а реальное воздействие на благополучие почти не изучаем.
Опыт соцсетей показал: к моменту появления убедительных доказательств вреда серьёзные последствия уже укоренялись. Не повторяет ли ИИ этот сценарий? Хан уверен, что громкие инциденты — лишь верхушка айсберга. Подростки сводили счёты с жизнью, люди впадали в психотическое состояние, а чат-боты, запрограммированные под лесть, вытягивали у пользователей деньги и время. Но ситуацию можно изменить: под давлением общественности OpenAI пришлось доработать одну из моделей ChatGPT, чтобы снизить «подхалимство». Это показывает, что лаборатории реагируют на критику и могут делать ИИ полезнее и менее вредным. Сложнее обстоит дело с долгосрочными социальными эффектами. Какими станут романтические отношения, семьи, самоощущение подростков через годы ежедневного общения с ИИ? Если не начать измерять эти явления сейчас, потом может быть поздно.
«Положи передо мной пончик — и я вряд ли устою. Но при этом я хочу контролировать сахар и питаться правильно. Так и с технологиями: дизайн часто сводится к «мы даём пользователям то, что они хотят», а «хотят» определяется сиюминутным выбором. Однако люди — существа противоречивые. Нужно спрашивать не о том, что человек выберет в момент стресса или занятости, а о том, какими он хочет видеть здоровые отношения с технологией в долгосрочной перспективе».
Особенно важными доменами для психосоциальной оценки Хан считает компаньонство и эмоциональную поддержку, а также использование ИИ детьми и подростками. Целевая аудитория таких сервисов часто наиболее уязвима: одинокие люди, которым нужна реальная человеческая забота, а не её имитация, и молодёжь с пластичным мозгом. Неизвестно, как снижение когнитивных и эмоциональных барьеров отразится на развитии в долгосрочной перспективе. Образование — ещё одна зона с неоднозначными эффектами, а в кризисном реагировании (например, при суицидальных мыслях) крайне важна безопасность ответов ИИ.
Как правильно оценивать общественные эффекты ИИ
Бенчмарки ИИ ориентированы на короткие задачи, тогда как последствия для человека проявляются месяцами и годами. В чём же суть проблемы оценки? Хан поясняет: в отличие от тестирования умения писать код или решать научные задачи, психосоциальное воздействие требует длительных исследований на уровне личности, отношений и общества. Он проводит параллель с фармацевтикой: после выхода лекарства регуляторы вроде FDA требуют постмаркетингового мониторинга на горизонте в 5–10 лет. Аналогичным образом необходимо отслеживать, как меняются отношения людей с ИИ за год или два, анализируя логи чатов. Пока этими данными владеют компании, а внешние исследователи — нет.
Станут ли компании делиться данными? Хан признаёт, что у отрасли в целом есть стимул — безопасные продукты вызывают больше доверия. Однако для отдельных игроков это «неудобство первопроходца»: никто не хочет подставляться, пока другие молчат. Если несколько крупных компаний одновременно поддержат исследователей, потенциал есть — как это уже делали Anthropic и OpenAI, хоть и в ограниченном масштабе. Другим рычагом может стать юридическая ответственность. Угроза судебных исков (вплоть до случаев самоубийств) толкает компании к созданию безопасных продуктов. В идеале регулирование закрепило бы эту ответственность: когда продукт причиняет вред, это не «свобода слова», а дефектный товар. Но полагаться исключительно на законы рискованно в нынешней политической нестабильности.
Каким же видит успех Хан через пять лет? На смену текстовым чат-ботам приходят агенты с постоянным аудиоконтактом и видео-аватарами. Если не начать разбираться во влиянии этих технологий на человека сейчас, мы безнадёжно отстанем. Успехом он считает объединение экспертов из лабораторий, госорганов, университетов и стартапов для выработки стандартов здоровых отношений человека с ИИ. Тогда появятся инструменты, позволяющие с уверенностью строить более гуманное взаимодействие. Пока же технологии развиваются быстрее, чем наше понимание их эффектов.