OpenAI ищет руководителя по подготовке к угрозам. Вакансия сосредоточена на рисках безопасности от моделей ИИ. CEO компании Сэм Альтман приводит в пример известные эффекты ИИ на психическое здоровье. Помимо этого, модели достигли такого уровня, что самостоятельно выявляют серьезные уязвимости в кибербезопасности.
Это ключевая роль в важный момент: модели быстро совершенствуются, открывая множество возможностей, но вместе с тем создают реальные трудности.
Одна из главных задач для нового руководителя — обеспечить, чтобы специалисты по защите в кибербезопасности могли применять свежие возможности ИИ, не допуская доступа злоумышленников. Роль также включает работу с биологическими функциями ИИ — то есть контроль за тем, как модели делятся биологическими знаниями, — и с системами, способными к самоулучшению.
Недавно OpenAI подверглась критике, особенно со стороны бывших сотрудников, за то, что ставила выпуск продуктов выше безопасности моделей. Из компании ушли многие исследователи по безопасности.