Совет OpenAI по вопросам благополучия единогласно высказался против запланированного режима для взрослых в ChatGPT. Внутри компании возникают проблемы с ненадёжной системой распознавания возраста и неурегулированными вопросами безопасности.
В январе OpenAI ознакомил свой специально подобранный совет по благополучию и ИИ с текущим положением дел по Adult Mode. Члены совета сплочённо выступили против, как сообщает Wall Street Journal. По их мнению, контент эротики от ИИ способен вызвать нездоровую эмоциональную привязанность, а несовершеннолетние обязательно отыщут лазейки в защитах.
Один из участников совета сослался на примеры, когда пользователи ChatGPT покончили с собой после формирования сильных связей с чат-ботом, и предупредил: OpenAI грозит породить «sexy suicide coach». Руководство компании заранее заявило совету о намерении двигаться дальше с планами по эротике, несмотря на все замечания.
Система распознавания возраста пропускает миллионы подростков
Основная техническая загвоздка касается защиты детей. Система определения возраста от OpenAI в отдельные периоды ошибочно принимает несовершеннолетних за взрослых примерно в 12% случаев. Учитывая еженедельную аудиторию в 100 миллионов несовершеннолетних пользователей, такая погрешность открывает эротические беседы для миллионов подростков.
Сотрудники OpenAI внутри подняли дополнительные угрозы, отмечает WSJ: привычки к навязчивому использованию, тягу к всё более жёсткому контенту и замещение настоящих дружеских или любовных связей. Параллельно компания не справляется с задачей разрешить эротику, но твёрдо запретить сюжеты с насилием без согласия или материалами о сексуальной эксплуатации детей. На момент дебюта допустят лишь текстовые диалоги — эротические картинки, аудио и видео заблокируют.
Объявление Альтмана в X удивило его же команду
Гендиректор Сэм Альтман рассказал об эротическом режиме в X в октябре, не поставив в известность свою команду заранее. «Мы не избранная моральная полиция мира», — написал он. Это сообщение спровоцировало недовольство внутри, тем более что OpenAI представила совет по благополучию буквально за несколько часов до того. По данным WSJ, Альтман также предположил: эротика поможет подстегнуть рост и прибыли.
В начале марта OpenAI перенесла дебют — ранее намеченный на первый квартал — в долгий ящик. Фокус сместился на другие разработки, а решение повлияли внутренние сомнения и технические барьеры. Тем не менее компания подчеркнула: Adult Mode обязательно запустят.