OpenAI объявила о покупке Promptfoo — стартапа, запущенного в 2024 году для охраны больших языковых моделей от угроз в сети.
В записи в блоге указано, что после завершения сделки инструменты Promptfoo встроят в OpenAI Frontier — корпоративную платформу для ИИ-агентов.
Автономные ИИ-агенты, способные выполнять цифровые операции, вызывают восторг перспективами повышения эффективности. Однако они создают новые лазейки для злоумышленников, желающих добраться до конфиденциальной информации или вмешиваться в автоматизированные процессы. Такая сделка демонстрирует усилия ведущих ИИ-лабораторий по подтверждению надежности своих разработок для ключевых бизнес-задач.
Promptfoo основали Ian Webster и Michael D’Angelo, чтобы предоставить фирмам средства для проверки слабых мест в LLM — с открытым интерфейсом и библиотекой. По данным компании, их решения применяют свыше 25% предприятий из Fortune 500.
С момента создания Promptfoo собрал $23 млн инвестиций, а после последнего раунда в июле 2025 года его оценили в $86 млн — по информации Pitchbook. OpenAI не раскрыла сумму покупки.
В публикации OpenAI отметили: инструменты Promptfoo дадут платформе агентов возможность проводить автоматизированный red-teaming, анализировать рабочие цепочки на предмет угроз безопасности, а также отслеживать действия с учетом рисков и требований compliance. Компания намерена дальше развивать открытое ПО Promptfoo.