ИИ-агенты в рабочих процессах GitHub и GitLab создают новые риски безопасности для предприятий
Компания Aikido Security предупреждает, что интеграция ИИ-агентов в рабочие процессы GitHub и GitLab открывает серьезные уязвимости в корпоративных средах. Проблема затрагивает широко используемые инструменты, такие как Gemini CLI, Claude Code, OpenAI Codex и GitHub AI Inference.
Согласно отчету компании по кибербезопасности, злоумышленники могут внедрять скрытые инструкции в задачи, запросы на слияние или коммиты. Этот текст затем напрямую попадает в промты моделей, где ИИ интерпретирует его как команду вместо безобидного контента. Поскольку эти агенты часто имеют разрешения на выполнение команд оболочки или изменение репозиториев, одна инъекция промта может привести к утечке секретов или изменению рабочих процессов. Aikido сообщает, что тесты показали, что этот риск затрагивает не менее пяти компаний из списка Fortune 500.
Google исправила проблему в своем репозитории Gemini CLI в течение четырех дней, согласно отчету. Чтобы помочь организациям защитить свои конвейеры, Aikido опубликовала открытые правила поиска и рекомендует ограничивать инструменты, доступные ИИ-агентам, проверять все входные данные и избегать прямого выполнения выходных данных ИИ.