Новости и статьи об искусственном интеллекте и нейросетях. Мы собираем и обрабатываем самую актуальную информацию из мира AI. О проекте
Microsoft анонсировал инвестиции в 10 миллиардов долларов в Японию на ИИ-инфраструктуру, кибербезопасность и обучение кадров с 2026 по 2029 год. С партнерами вроде SoftBank компания запустит локальные GPU-сервисы Azure и подготовит миллион специалистов к 2030 году. Это ответ на будущий дефицит 3,26 миллиона экспертов по ИИ и роботам к 2040 году.
KiloClaw — платформа для компаний, которая контролирует автономных ИИ-агентов и борется с BYOAI, где сотрудники разворачивают их на личной инфраструктуре. Она обеспечивает видимость, IAM с временными токенами и интеграцию с CI/CD, балансируя продуктивность и безопасность. Это ответ на растущие риски утечек данных и потери IP в эпоху теневого ИИ.
Утечка документов Anthropic раскрыла новую модель Claude Mythos (или Capybara), превосходящую Opus в тестах по кодингу, рассуждениям и кибербезопасности. Компания подтвердила разработку с фокусом на безопасность и медленный запуск. OpenAI готовит аналогичный прорыв с моделью Spud перед IPO.
В популярном ИИ-проекте LiteLLM нашли вредоносное ПО, проникшее через зависимость и крадущее учетные данные. Несмотря на недавние сертификаты SOC2 и ISO 27001 от Delve, инцидент случился быстро. Разработчики оперативно отреагировали и ведут расследование с Mandiant.
Библиотека LiteLLM подверглась атаке через PyPI: версии 1.82.7 и 1.82.8 крадут учётные данные и распространяются по Kubernetes-кластерам. Джим Фан из Nvidia предупредил об угрозе для ИИ-агентов и призвал к простым решениям без лишних зависимостей.
Автономные ИИ-агенты в производственных системах создают риски из-за общих API-ключей и отсутствия четких идентичностей. DataRobot с Okta предлагает identity-first подход: агенты получают уникальные идентичности в корпоративном каталоге для атрибуции, ограниченных прав и быстрого отключения. Это объединяет управление людьми и машинами в единую плоскость.
Google завершил покупку израильской Wiz за 32 миллиарда долларов — это рекордная сделка для компании. Wiz усилит безопасность Google Cloud в мультиоблачных средах и с помощью ИИ ускорит борьбу с угрозами. Переговоры шли с 2024 года, с отказом от предложения в 23 миллиарда.
Anthropic с помощью модели Claude обнаружила в Firefox 14 серьёзных уязвимостей, 22 CVE и 90 других багов. Mozilla устранила все критичные проблемы в Firefox 148 и планирует использовать ИИ для анализа кода. Компания выбрала браузер как один из самых проверенных открытых проектов.
Статья описывает пять ключевых практик защиты ИИ-систем: от контроля доступа и шифрования до мониторинга и планов реагирования. OWASP выделяет инъекцию промптов как главную уязвимость LLM, а NIST настаивает на полной видимости. Рекомендуются провайдеры Darktrace, Vectra AI и CrowdStrike для реализации.
LiteLLM прекращает сотрудничество с Delve после заражения malware и скандала с фальшивыми сертификатами. Компания перейдёт на Vanta и независимого аудитора для пересертификации. Решение CTO Ишана Джаффера отражает недоверие к прежнему партнёру.
В проекте LiteLLM обнаружили вредоносное ПО, крадущее учетные данные через зависимости; его быстро нейтрализовали. LiteLLM использовала для сертификатов SOC2 и ISO 27001 компанию Delve, обвиняемую в фальсификациях данных. Инцидент подчеркивает уязвимости open-source даже с compliance.
Databricks запустила Lakewatch — ИИ-продукт для задач SIEM с агентами на Claude от Anthropic. Для его создания приобрела стартапы Antimatter и SiftD.ai, чьи команды интегрированы в компанию. Эндрю Криовков возглавил разработку, а сделки усилили экспертизу в безопасном развертывании агентов.
Электронная книга Utimaco "AI Quantum Resilience" называет безопасность главным барьером для ИИ-внедрения. Компания предупреждает о рисках манипуляций данными, кражи моделей и квантовых атак на шифрование. Рекомендует крипто-гибкость, гибридную криптографию NIST и аппаратные анклавы для защиты всего цикла ИИ.
ИИ-агент от Codewall за два часа взломал платформу Lilli McKinsey через SQL-инъекцию в JSON-полях, получив доступ к 46,5 млн чат-сообщений, промтам и RAG-данным. Уязвимость позволяла незаметно менять поведение ИИ без следов. McKinsey оперативно устранила дыру, но случай подчеркивает новые угрозы для промтов как ключевых активов.
Claude Opus 4.6 в партнёрстве с Mozilla нашёл 22 уязвимости в Firefox, из них 14 высокоприоритетных — почти пятая часть исправленных в 2025 году. Модель также создала простые эксплойты в двух случаях, что подчёркивает нужду ускорять поиск и фиксы. Anthropic делится рекомендациями по использованию ИИ для безопасности и планирует расширять усилия.
OpenAI запустила Codex Security — ИИ-агент для поиска уязвимостей в коде, доступный в research preview для бизнес-клиентов ChatGPT. За месяц инструмент проверил 1,2 млн коммитов, нашел 792 критических проблемы и сообщил о 14 CVE в open-source проектах вроде OpenSSH и Chromium. Anthropic тоже вышла на рынок с похожим решением, вызвав падение акций в секторе кибербезопасности.