Масштабирование ИИ в крупных компаниях требует устранения архитектурных ошибок, которые часто блокируют пилотные проекты на пути к полноценному внедрению. Это задача выходит за пределы подбора моделей. Запустить прототипы генеративного ИИ просто, но чтобы сделать их надежными инструментами для бизнеса, приходится глубоко разбираться с обработкой данных и их контролем.
Franny Hsiao, руководитель AI-архитекторов в регионе EMEA в Salesforce, разбирает причины, по которым многие проекты застревают, и рассказывает, как проектировать системы, способные выдержать реальные нагрузки.
Проблема «прилизанного острова» при масштабировании ИИ
Большинство сбоев возникает из-за условий, в которых создают ИИ. Пилоты обычно запускают в изолированных средах, что создает иллюзию стабильности, но при реальном масштабе все рушится.
«Самая частая архитектурная ошибка, не дающая пилотам ИИ вырасти, — отсутствие с самого начала полноценной инфраструктуры данных для производства с полным контролем на всех этапах», — отмечает Hsiao.
Логично, что пилоты стартуют на «прилизанных островах» — с маленькими отобранными наборами данных и упрощенными процессами. Но такой подход игнорирует хаос корпоративных данных: сложную интеграцию, нормализацию и преобразования для работы с реальными объемами и вариациями.
Когда фирмы пытаются расширить такие пилоты, не решив проблемы с данными, системы ломаются. Hsiao предупреждает: «Пробелы в данных и проблемы вроде задержек вывода делают ИИ непригодным — и, главное, ненадежным».
Компании, которые успешно преодолевают этот барьер, интегрируют наблюдение и защитные механизмы во весь жизненный цикл. Такой метод дает «полный обзор эффективности ИИ-систем и того, как пользователи осваивают новые инструменты».
Инженерия для ощущения скорости
При развертывании крупных моделей рассуждений — вроде Atlas Reasoning Engine — компании сталкиваются с компромиссом между глубиной мышления модели и терпением пользователей. Тяжелые вычисления вызывают задержки.
Salesforce решает это через «ощущение скорости с помощью Agentforce Streaming», — говорит Hsiao.
«Мы выдаем ответы ИИ частями, пока движок рассуждений в фоне выполняет сложные расчеты. Это сильно снижает субъективные задержки, которые часто тормозят внедрение ИИ в производство».
Прозрачность помогает управлять ожиданиями пользователей при масштабировании ИИ. Hsiao подчеркивает роль дизайна как инструмента доверия: «Показывая индикаторы прогресса — шаги рассуждений, используемые инструменты, спиннеры и полоски загрузки, — мы не только удерживаем внимание, но и повышаем ощущение скорости, а заодно строим доверие».
«Такая открытость плюс умный выбор моделей — например, мелкие модели требуют меньше вычислений и дают быстрые ответы — и строгие лимиты на длину обеспечивают, что система кажется продуманной и оперативной».
Оффлайн-интеллект на краю сети
Для отраслей с полевыми операциями, вроде энергетики или логистики, постоянная связь с облаком невозможна. «Для многих клиентов главной практической потребностью остается работа без сети», — заявляет Hsiao.
Hsiao акцентирует переход к интеллекту на устройстве, особенно в полевых сервисах, где процессы не должны зависеть от сигнала.
«Техник фотографирует сломанную деталь, код ошибки или серийный номер оффлайн. Локальная LLM на устройстве распознает актив или проблему и выдает инструкции по устранению из кэшированной базы знаний мгновенно», — объясняет Hsiao.
Синхронизация данных происходит автоматически при восстановлении связи. «Как только связь появляется, система берет на себя синхронизацию данных в облако, сохраняя единую версию правды. Так работа продолжается даже в самых изолированных условиях».
Hsiao ждет дальнейших улучшений в edge AI благодаря преимуществам вроде «минимальных задержек, повышенной приватности и безопасности данных, экономии энергии и снижению затрат».
Ключевые контрольные точки
Автономные агенты — не инструменты на автопилоте. При масштабировании ИИ в компаниях управление требует четкого определения моментов, когда нужен человеческий контроль. Hsiao называет это не зависимостью, а «проектированием для ответственности и обучения».
Salesforce требует «человека в цикле» для ключевых зон, которые Hsiao именует «высокорисковыми контрольными точками»:
«Сюда входят категории действий вроде ‘CUD’ (Creating, Uploading, or Deleting), а также операции с проверенными контактами и действиями по клиентам», — говорит Hsiao. «Мы по умолчанию требуем подтверждения для критических решений или любых действий, уязвимых к манипуляциям промтами».
Такая схема создает петлю обратной связи, где «агенты учатся на опыте людей», формируя «коллективный интеллект» вместо слепой автоматизации.
Чтобы доверять агенту, нужно видеть его действия. Salesforce разработала «Session Tracing Data Model (STDM)» для такой видимости. Она фиксирует «логи по шагам», давая детальный взгляд на логику агента.
«Это обеспечивает пошаговый обзор всех взаимодействий: вопросы пользователей, шаги планировщика, вызовы инструментов, входы/выходы, извлеченные фрагменты, ответы, время и ошибки», — уточняет Hsiao.
Эти данные позволяют запускать ‘Agent Analytics’ для метрик использования, ‘Agent Optimisation’ для анализа производительности и ‘Health Monitoring’ для слежения за доступностью и задержками.
«Наблюдение за Agentforce — это единый центр управления всеми агентами Agentforce для общего обзора, мониторинга и оптимизации», — подводит итог Hsiao.
Стандартизация общения агентов
Когда бизнесы внедряют агентов от разных поставщиков, им нужен общий протокол для совместной работы. «Для оркестрации нескольких агентов они не могут существовать в изоляции — нужен общий язык», — считает Hsiao.
Hsiao описывает два уровня стандартизации: оркестрацию и семантику. Для оркестрации Salesforce принимает открытые стандарты вроде MCP (Model Context Protocol) и A2A (Agent to Agent Protocol).
«Открытые стандарты обязательны: они избегают привязки к вендору, обеспечивают совместимость и ускоряют прогресс».
Но общение бесполезно, если агенты по-разному понимают данные. Чтобы устранить разрозненность, Salesforce соосновала OSI (Open Semantic Interchange) для унификации смысла, чтобы агент одной системы «по-настоящему понимал намерения агента из другой».
Будущий узкое место масштабирования ИИ: данные для агентов
Дальше фокус сместится с возможностей моделей на доступ к данным. Многие фирмы все еще мучаются со старыми, разрозненными системами, где «поиск и повторное использование» затруднены.
Hsiao прогнозирует следующую главную преграду — и решение — в подготовке корпоративных данных «для агентов» через поисковые архитектуры с учетом контекста вместо жестких ETL-пайплайнов. Это позволит «гиперперсонализированные впечатления, поскольку агенты всегда найдут нужный контекст».
«В итоге ближайший год — не гонка за большими новыми моделями, а создание оркестрации и инфраструктуры данных для полноценных агентных систем в производстве», — заключает Hsiao.