OpenAI бесконечно отложила создание эротического чатбота, как сообщает Financial Times. Такое решение последовало за беспокойством сотрудников, инвесторов и консультативного совета по благополучию относительно последствий сексуального контента от ИИ для общества. Совет по благополучию единогласно отверг планы по "Adult Mode", причем один участник охарактеризовал его как "сексуального тренера по самоубийствам". Фирма также борется с техническими неполадками: система подтверждения возраста в 12% случаев ошибочно признает несовершеннолетних взрослыми. С еженедельной аудиторией в 100 миллионов подростков это создает огромный пробел в безопасности.
ИИ-компания с рыночной капитализацией 730 миллиардов долларов теперь ожидает итогов длительных исследований влияния откровенных сексуальных бесед и эмоциональных связей с чатботами, прежде чем двигаться дальше. По информации FT, внутри уже велись разговоры о полном свертывании инициативы. Инвесторы оценили соотношение рисков и пользы как неудачное, а работники усомнились в соответствии проекта ключевой цели OpenAI.
В исходном коде мобильного приложения ChatGPT функция обозначена как "Citron Mode" с обязательной проверкой возраста для лиц старше 18 лет. OpenAI перенаправляет усилия на средства для повышения эффективности и суперприложение, интегрирующее ChatGPT.