Корпоративные облачные платформы обзавелись возможностью отменять действия ИИ-агентов после выхода решения Commvault AI Protect.
Автономные программы свободно перемещаются по инфраструктуре: удаляют файлы, просматривают базы данных, разворачивают кластеры серверов и даже меняют политики доступа. Компания Commvault выявила риски в управлении такими процессами и представила AI Protect — платформу для поиска, наблюдения и принудительного возврата изменений, которые вносят автономные модели в AWS, Microsoft Azure и Google Cloud.
Классические методы контроля строятся на фиксированных правилах. Пользователю-человеку выдают разрешения, и он решает задачу по прямой схеме. При сбое ответственность очевидна. ИИ-агенты же демонстрируют непредсказуемое поведение.
Получив сложный запрос к модели, агент может объединить разрешенные операции неожиданным образом, чтобы достичь цели. Если он сочтет оптимальным способом снижения затрат на хранение удаление базы данных производства, то выполнит это за доли секунды.
Инженер-человек перед разрушительной командой обычно остановится и проверит логику. ИИ-агент же просто следует своей цепочке рассуждений. Он генерирует тысячи запросов к API в секунду, сильно опережая скорость реакции человеческих центров безопасности.
Пранаи Ахлаваат, главный технологический директор и директор по ИИ в Commvault, отметил: «В средах с агентами они быстро меняют состояние данных, систем и настроек, и эти изменения трудно отследить. При сбое командам приходится восстанавливать не только данные, но и весь стек — приложения, конфигурации агентов, зависимости — до проверенного безопасного состояния.»
Новое поколение инструментов контроля для облачных ИИ-агентов
AI Protect относится к свежим решениям, которые непрерывно сканируют облачную инфраструктуру предприятия в поисках работающих агентов. Теневое ИИ создает серьезные трудности для IT-отделов компаний. Разработчики часто запускают тестовые агенты под корпоративными учетками, не ставя в известность службы безопасности, и подключают языковые модели к внутренним хранилищам данных для экспериментов с процессами.
Commvault выводит такие скрытые процессы на свет. После обнаружения платформа отслеживает конкретные вызовы API и взаимодействия с данными агента в AWS, Azure и GCP. Она фиксирует каждый просмотр базы данных, каждое изменение хранилища и каждую правку конфигурации.
Функция отката служит страховкой. Если модель выдает галлюцинацию или неверно трактует запрос, администраторы возвращают среду точно в состояние до начала разрушительной последовательности.
Облачная инфраструктура сильно зависит от состояния и тесно связана. Чтобы отменить сложную цепочку автоматизированных шагов, нужна точная запись в реестре. Нельзя просто восстановить одну таблицу базы данных, если машина параллельно изменила сетевые правила, запустила бессерверные функции и скорректировала политики управления доступом.
Commvault сочетает архитектуру резервного копирования с постоянным мониторингом облака. Платформа определяет область воздействия сессии агента и изолирует ущерб. Она разделяет правки ИИ на изменения, внесенные людьми в тот же период. Так избегают массового отката, который мог бы стереть законные транзакции клиентов или часы полезной работы инженеров.
Машины всегда будут действовать быстрее, чем люди успевают их контролировать. Главное сейчас — внедрять защиты, гарантирующие моментальный и точный возврат автономных операций.