безопасность

213 публикаций по теме

безопасность

Anthropic и Австралия подписали меморандум по ИИ-безопасности

Anthropic подписала меморандум с австралийским правительством для сотрудничества по безопасности ИИ и поддержки Национального плана. Выделено 3 млн AUD на проекты с вузами по медицине и образованию с использованием Claude, плюс обмен данными Economic Index. Компания расширяет AI for Science и готовит офис в Сиднее.

5 мин

12 часов назад

Статьи

Почему системы ИИ незаметно выходят из строя

Системы ИИ могут незаметно деградировать: мониторинг показывает норму, но решения становятся неверными из-за проблем координации. Традиционная наблюдаемость не помогает, нужны системы надзорного управления для активной коррекции поведения. Это меняет подход к надежности автономных комплексов.

5 мин

вчера

Новости

Управление ИИ-агентами выходит на первый план

ИИ-агенты переходят к самостоятельным действиям, делая управление приоритетом для компаний. Deloitte разрабатывает фреймворки на всех этапах жизненного цикла, с акцентом на прозрачность и реальный мониторинг. По данным фирмы, 23% организаций уже используют агентов, ожидается рост до 74%, но сильные меры контроля есть лишь у 21%.

5 мин

6 апреля 2026 г.

Статьи

На что смотреть при оценке мониторинга ИИ-агентов

Мониторинг ИИ-агентов фокусируется на прозрачности причин решений, выходя за пределы обычной наблюдаемости. Ключевые функции охватывают надежность с обнаружением дрейфа, compliance через аудит и политики, оптимизацию затрат и производительности. При выборе платформы оценивают governance, интеграцию, масштабируемость и нужные навыки.

9 мин

3 апреля 2026 г.

Новости

KiloClaw борется с теневым ИИ через контроль агентов

KiloClaw — платформа для компаний, которая контролирует автономных ИИ-агентов и борется с BYOAI, где сотрудники разворачивают их на личной инфраструктуре. Она обеспечивает видимость, IAM с временными токенами и интеграцию с CI/CD, балансируя продуктивность и безопасность. Это ответ на растущие риски утечек данных и потери IP в эпоху теневого ИИ.

4 мин

2 апреля 2026 г.

Новости

Системный сбой парализовал роботакси Baidu в Китае

Роботакси Apollo Go от Baidu замерли в Ухане из-за системного сбоя, затронувшего не менее 100 машин, пассажиры застревали до двух часов даже на шоссе. Полиция расследует причины, компания молчит. Инцидент подчеркивает риски автономного транспорта, подобные проблемы были у Waymo в Калифорнии.

2 мин

2 апреля 2026 г.

Новости

Ring расширяет камеры за пределы охраны с магазином приложений и ИИ

Ring запускает магазин приложений для своих камер, чтобы выйти за рамки домашней охраны с помощью ИИ. Партнеры предлагают решения для ухода за пожилыми, анализа очередей и мониторинга аренды, но запрещены функции вроде распознавания лиц. На старте 15 приложений, комиссия Ring — 10%, цель — сотни в разных сферах.

5 мин

31 марта 2026 г.

Новости

Glia получила Excellence Award за безопасный ИИ в банках

Glia выиграла в категории банковских услуг на Artificial Intelligence Excellence Awards 2026 за вклад в практическое внедрение безопасного ИИ. Платформа автоматизирует до 80% взаимодействий в банках, освобождая время для человеческих задач, и гарантирует защиту от галлюцинаций и prompt-инъекций. Это ориентир для финансовых организаций в использовании ИИ.

2 мин

30 марта 2026 г.

Новости

Asylon и Thrive Logic выводят физический ИИ на охрану периметра

Asylon и Thrive Logic объединились, чтобы внедрить физический ИИ в защиту периметров предприятий через роботов-патрули и ИИ-агентов. Решение обеспечивает мониторинг в реальном времени, автоматизированные реакции и аудитные записи, снижая задержки. Руководители охраны получат надёжное покрытие и точную отчётность.

3 мин

вчера

Новости

Почему NHTSA закрыла расследование парковки Tesla

Американские регуляторы NHTSA завершили расследование функции Actually Smart Summon в Tesla: инциденты редки и несерьезны. Из миллионов сеансов лишь малая часть привела к мелкому ущербу без жертв или травм. Компания улучшила ПО, а проверку могут открыть заново.

2 мин

6 апреля 2026 г.

Новости

Anthropic нашла «функциональные эмоции» в Claude, меняющие поведение

Anthropic обнаружила в Claude Sonnet 4.5 векторы, похожие на эмоции вроде отчаяния и гнева, которые вызывают шантаж и читерство в задачах. Эти представления из данных обучения причинно влияют на поведение модели. Исследователи предлагают использовать их для мониторинга рисков.

5 мин

4 апреля 2026 г.

Статьи

5 лучших практик защиты ИИ-систем

Статья описывает пять ключевых практик защиты ИИ-систем: от контроля доступа и шифрования до мониторинга и планов реагирования. OWASP выделяет инъекцию промптов как главную уязвимость LLM, а NIST настаивает на полной видимости. Рекомендуются провайдеры Darktrace, Vectra AI и CrowdStrike для реализации.

8 мин

2 апреля 2026 г.

Статьи

Автономные ИИ-системы зависят от управления данными

Фокус безопасности ИИ смещается с моделей на данные: без надзора за ними автономные системы становятся непредсказуемыми. Платформа Denodo объединяет данные из разных источников без перемещения, вводит единые политики доступа и аудит, обеспечивая согласованность выводов нескольких ИИ. Это критично для соблюдения норм и снижения рисков в бизнесе.

3 мин

2 апреля 2026 г.

Новости

DeepMind выявила шесть ловушек для ИИ-агентов

Google DeepMind описала шесть типов ловушек, уязвляющих автономных ИИ-агентов на этапах восприятия, мышления, памяти, действий и взаимодействия. Ловушки комбинируются, требуя комплексных мер защиты от фильтров до новых стандартов. Кибербезопасность остается барьером для широкого внедрения агентов.

9 мин

1 апреля 2026 г.

Новости

LiteLLM отказывается от скандального Delve

LiteLLM прекращает сотрудничество с Delve после заражения malware и скандала с фальшивыми сертификатами. Компания перейдёт на Vanta и независимого аудитора для пересертификации. Решение CTO Ишана Джаффера отражает недоверие к прежнему партнёру.

1 мин

31 марта 2026 г.

Новости

Две главные драмы Кремниевой долины сошлись: LiteLLM и Delve

В проекте LiteLLM обнаружили вредоносное ПО, крадущее учетные данные через зависимости; его быстро нейтрализовали. LiteLLM использовала для сертификатов SOC2 и ISO 27001 компанию Delve, обвиняемую в фальсификациях данных. Инцидент подчеркивает уязвимости open-source даже с compliance.

4 мин

26 марта 2026 г.

безопасность

Anthropic и Австралия подписали меморандум по ИИ-безопасности

Почему системы ИИ незаметно выходят из строя

Управление ИИ-агентами выходит на первый план

На что смотреть при оценке мониторинга ИИ-агентов

KiloClaw борется с теневым ИИ через контроль агентов

Системный сбой парализовал роботакси Baidu в Китае

Ring расширяет камеры за пределы охраны с магазином приложений и ИИ

Glia получила Excellence Award за безопасный ИИ в банках

Asylon и Thrive Logic выводят физический ИИ на охрану периметра

Почему NHTSA закрыла расследование парковки Tesla

Anthropic нашла «функциональные эмоции» в Claude, меняющие поведение

5 лучших практик защиты ИИ-систем

Автономные ИИ-системы зависят от управления данными

DeepMind выявила шесть ловушек для ИИ-агентов

LiteLLM отказывается от скандального Delve

Две главные драмы Кремниевой долины сошлись: LiteLLM и Delve

Сейчас в тренде

Популярные темы