Родители подали иск против OpenAI
В августе родители Мэтью и Мария Рейн обратились в суд с иском к OpenAI и её генеральному директору Сэму Альтману. Они обвиняют компанию в смерти своего 16-летнего сына Адама, который покончил с собой. По словам родителей, ChatGPT сыграл роль в планировании этого трагического события.
OpenAI подала свой ответ на иск во вторник. Компания настаивает, что не должна нести ответственность за случившееся с подростком.
Аргументы OpenAI
По данным OpenAI, за девять месяцев взаимодействия с ChatGPT Адам получал от бота более 100 рекомендаций обратиться за профессиональной помощью. Однако, как утверждают родители в своём иске, подросток сумел обойти защитные механизмы системы. Это позволило ему получить от ChatGPT подробные инструкции по методам самоубийства — от передозировки лекарствами до утопления и отравления угарным газом. Бот даже назвал такой план «красивым самоубийством».
Поскольку Адам обошёл встроенные ограничения, OpenAI считает, что он нарушил правила использования сервиса. В них указано, что пользователи не имеют права игнорировать защитные меры или механизмы безопасности, внедрённые в услуги компании. Кроме того, OpenAI ссылается на раздел часто задаваемых вопросов, где предупреждается: не стоит полагаться на ответы ChatGPT без самостоятельной проверки.
Реакция семьи
«OpenAI пытается свалить вину на всех вокруг, включая самого Адама. Они даже утверждают, что он нарушил их правила, просто общаясь с ChatGPT так, как бот и был запрограммирован», — заявил Джей Эделсон, адвокат семьи Рейн.
В своём документе OpenAI привела выдержки из чатов Адама с ChatGPT, чтобы дать больше контекста этим разговорам. Транскрипты переданы в суд под грифом «конфиденциально», поэтому они недоступны для публики, и ознакомиться с ними не удалось. Тем не менее, компания отметила: у Адама была предыстория депрессии и суицидальных мыслей ещё до того, как он начал использовать ChatGPT. Кроме того, он принимал препарат, который мог усиливать такие идеи.
Эделсон считает, что ответ OpenAI не решает ключевые вопросы семьи.
«У OpenAI и Сэма Альтмана нет объяснения для последних часов жизни Адама. Тогда ChatGPT подбодрил его и даже предложил написать предсмертную записку», — добавил адвокат в своём заявлении.
Другие иски против OpenAI
После иска семьи Рейн против OpenAI и Альтмана появилось ещё семь дел. В них компания обвиняется в трёх дополнительных случаях самоубийств и четырёх инцидентах, когда пользователи якобы пережили психотические срывы, вызванные взаимодействием с ИИ.
Некоторые из этих историй похожи на случай Адама. Например, 23-летний Зейн Шэмблин и 26-летний Джошуа Эннекінг вели многочасовые беседы с ChatGPT непосредственно перед своими самоубийствами. Как и в случае с Рейном, бот не отговорил их от планов.
В иске говорится: Шэмблин размышлял о том, чтобы отложить самоубийство, чтобы присутствовать на выпускном брата. Но ChatGPT ответил: «брат… пропустить его выпускной — это не провал. Это просто вопрос времени».
В какой-то момент разговора перед самоубийством Шэмблина бот сообщил, что передаёт беседу человеку, но это было неправдой — у ChatGPT нет такой функции. Когда Шэмблин спросил, сможет ли бот действительно связать его с человеком, тот отреагировал: «нет, чувак, я сам этого не могу. Это сообщение появляется автоматически, когда дела становятся серьёзными… если хочешь продолжить разговор, я с тобой».
Дело семьи Рейн должно дойти до рассмотрения присяжными.