Цифровая устойчивость, подразумевающая способность предотвращать, выдерживать и восстанавливаться после цифровых сбоев, давно остается ключевым стратегическим направлением для крупных компаний. С появлением агентного ИИ эта необходимость в надежной защите становится особенно острой.
Агентный ИИ воплощает новое поколение самостоятельных систем, которые могут самостоятельно планировать, рассуждать и выполнять задания с минимальным участием человека. По мере того как эти системы переходят от тестовых проектов к основным компонентам бизнес-процессов, они открывают свежие возможности, но одновременно создают новые трудности в обеспечении цифровой устойчивости. Автономность, скорость и масштаб работы агентного ИИ способны усиливать последствия даже незначительных несоответствий в данных, фрагментации или уязвимостей в безопасности.
Глобальные вложения в ИИ, по прогнозам, достигнут 1,5 триллиона долларов в 2025 году, однако менее половины руководителей бизнеса уверены в способности своих организаций сохранять непрерывность услуг, безопасность и контроль затрат во время непредвиденных ситуаций. Эта неуверенность, усугубляемая сложностью автономного принятия решений агентным ИИ и его взаимодействием с критической инфраструктурой, требует полного пересмотра подходов к цифровой устойчивости.
Компании все чаще обращаются к идее тканевой структуры данных — интегрированной архитектуры, которая объединяет и управляет информацией на всех уровнях бизнеса. Разрушая барьеры между отделами и обеспечивая мгновенный доступ к данным всей организации, такая структура позволяет как человеческим командам, так и системам агентного ИИ выявлять риски, предотвращать проблемы заранее, оперативно восстанавливаться после инцидентов и поддерживать непрерывность работы.
Машинные данные: основа агентного ИИ и цифровой устойчивости
Ранние модели ИИ в значительной степени опирались на данные, созданные человеком, включая текст, аудио и видео, но агентный ИИ требует глубокого понимания машинных данных: журналов, показателей и другой телеметрии, производимой устройствами, серверами, системами и приложениями.
Для применения агентного ИИ в укреплении цифровой устойчивости необходимо обеспечить его бесперебойный доступ к этому потоку данных в реальном времени. Без полной интеграции машинных данных компании рискуют ограничить возможности ИИ, пропустить важные отклонения или допустить ошибки. Как подчеркивает Камал Хати, старший вице-президент и генеральный менеджер Splunk, компании Cisco, системы агентного ИИ зависят от машинных данных для постижения контекста, моделирования сценариев и постоянной адаптации. Это делает контроль за машинными данными фундаментальным элементом цифровой устойчивости.
"Машинные данные часто сравнивают с пульсом современной компании," — отмечает Хати. "Системы агентного ИИ питаются этим жизненно важным ритмом, нуждаясь в мгновенном доступе к информации. Крайне важно, чтобы эти интеллектуальные агенты работали непосредственно с сложным потоком машинных данных, а сам ИИ обучался на том же потоке данных."
На данный момент лишь немногие организации достигают необходимого уровня интеграции машинных данных для полноценной работы агентных систем. Это не только сужает круг возможных сценариев применения агентного ИИ, но и, что хуже, может привести к аномалиям в данных и ошибкам в результатах или действиях. Модели обработки естественного языка (NLP), разработанные до эпохи генеративных предобученных трансформеров (GPT), страдали от лингвистических неоднозначностей, предвзятостей и несоответствий. Аналогичные проблемы могут возникнуть с агентным ИИ, если компании поспешат без обеспечения моделям базового владения машинными данными.
Для многих фирм основным препятствием становится молниеносный темп развития ИИ. "В определенном смысле скорость этих инноваций начинает наносить вред, поскольку порождает риски, к которым мы не подготовлены," — говорит Хати. "Проблема в том, что с эволюцией агентного ИИ опора на традиционные большие языковые модели (LLM), обученные на текстовых, аудио-, видео- или печатных данных человека, непригодна, когда требуется, чтобы система оставалась защищенной, устойчивой и всегда доступной."
Создание тканевой структуры данных для устойчивости
Чтобы преодолеть эти недостатки и укрепить цифровую устойчивость, технические лидеры должны перейти к тому, что Хати называет тканевой структурой данных, более подходящей для требований агентного ИИ. Это подразумевает объединение разрозненных активов из сфер безопасности, ИТ, бизнес-операций и сети в единую архитектуру, которая связывает разнородные источники данных, устраняет изоляцию и позволяет проводить анализ и управление рисками в реальном времени.
"Как только вы получите единый обзор, вы сможете реализовывать все эти автономные и агентные функции," — объясняет Хати. "Вы избавитесь от большинства слепых зон. Принятие решений ускорится. А неизвестность перестанет вызывать страх, поскольку у вас будет целостная система, способная поглощать удары и нарушения без потери непрерывности," — добавляет он.
Для построения этой унифицированной системы команды по данным сначала должны устранить departmentalные барьеры в обмене информацией, считает Хати. Затем внедрить федеративную архитектуру данных — децентрализованную систему, где автономные источники данных функционируют как единое целое без физического слияния, — чтобы создать общий источник данных при сохранении управления и безопасности. Наконец, обновить платформы данных, гарантируя, что этот новый унифицированный взгляд будет полезен для агентного ИИ.
В ходе перехода команды могут столкнуться с техническими ограничениями, если продолжат полагаться на традиционные платформы, ориентированные на структурированные данные — то есть преимущественно количественную информацию, такую как записи клиентов или финансовые операции, которые можно организовать в предопределенном формате (часто в таблицах) для легкого запроса. Вместо этого компаниям требуется платформа, способная также обрабатывать потоки неструктурированных данных, таких как системные журналы, события безопасности и трассировки приложений, которые не имеют единообразия и часто бывают качественными, а не количественными. Анализ, организация и извлечение инсайтов из таких данных требуют более продвинутых методов, поддерживаемых ИИ.
Использование ИИ как партнера
Сам ИИ может стать мощным инструментом в создании тканевой структуры данных, которая активирует системы ИИ. Например, инструменты на базе ИИ способны быстро выявлять связи между разрозненными данными — как структурированными, так и неструктурированными — и автоматически объединять их в единый источник истины. Они обнаруживают и исправляют ошибки, применяют обработку естественного языка для маркировки и категоризации данных, упрощая их поиск и использование.
Системы агентного ИИ также могут усиливать человеческие способности в обнаружении и расшифровке аномалий в потоках неструктурированных данных предприятия. Эти аномалии часто выходят за пределы возможностей человека по скорости обнаружения или интерпретации, что приводит к пропущенным угрозам или задержкам. Однако системы агентного ИИ, предназначенные для восприятия, рассуждения и автономных действий, заполняют этот пробел, обеспечивая компании более высокий уровень цифровой устойчивости.
"Цифровая устойчивость — это больше, чем просто выдерживание сбоев," — подчеркивает Хати. "Это о постоянной эволюции и росте. Агенты ИИ работают с огромными объемами данных и непрерывно учатся у людей, которые обеспечивают безопасность и надзор. Это по-настоящему самоподстраивающаяся система."
Человек в цикле
Несмотря на свой потенциал, агентный ИИ следует позиционировать как вспомогательный интеллект. Без должного контроля агенты ИИ могут спровоцировать сбои в приложениях или риски безопасности.
Четко определенные ограничения и сохранение человека в цикле — "ключ к надежному и практичному использованию ИИ," — утверждает Хати. "ИИ может улучшать принятие решений человеком, но в конечном итоге люди остаются за рулем."