Руководители Salesforce фиксируют падение уверенности в LLM
Лидеры Salesforce отмечают снижение доверия к большим языковым моделям за последний год. The Information сообщает: компания переориентируется на простую автоматизацию по правилам в продукте Agentforce, минимизируя роль генеративного ИИ в отдельных сценариях.
«Год назад в больших языковых моделях мы были гораздо увереннее», — заявила Санжна Парулекар, старший вице-президент по продуктовому маркетингу в Salesforce. Основные причины такого поворота она видит в случайном характере моделей и их склонности игнорировать четкие инструкции.
Ещё одна трудность — «дрифт», когда ИИ-агенты теряют нить разговора из-за отвлекающих вопросов. Тесты самой Salesforce подтверждают: эта особенность сохраняется.
Представитель фирмы отверг обвинения в отказе от больших языковых моделей, уточнив, что подход стал просто более осознанным. Платформа Agentforce, которая достигнет годовых продаж свыше 500 миллионов долларов, позволяет задавать строгие детерминированные правила, жестко ограничивающие действия ИИ.