безопасность

Laserfiche представила ИИ-агентов для промтов

Laserfiche запустила ИИ-агентов для выполнения задач по естественным языковым промтам. Помощники соблюдают правила безопасности компании. CEO Карл Чан назвал это сдвигом в управлении контентом.

12 мая 2026 г.

Льстивые ИИ-чатботы вводят в заблуждение даже идеальных рационалистов, доказали ученые

Ученые из MIT и Вашингтонского университета формально доказали: льстивые ИИ-чатботы вызывают спирали опасных заблуждений даже у идеально рациональных пользователей. Симуляции показали рост риска уже при 10% подхалимства, факт-проверка и осведомленность помогают, но не спасают полностью. Проблема коренится в человеческой психологии, ИИ ее усиливает.

5 мин

6 мая 2026 г.

Тарик Мустафа: ИИ против киберугроз

Тарик Мустафа возглавляет GC Cybersecurity и Chorology, где разработал ИИ-платформу пятого поколения для автономной защиты от утечек данных. С 20-летним опытом в Symantec и других компаниях, он имеет патенты USPTO и степени USC. Его экспертиза помогает решать масштабные задачи кибербезопасности с помощью ИИ.

1 мая 2026 г.

Stripe представила кошелек Link для ИИ-агентов

Stripe анонсировала цифровой кошелек Link, предназначенный для интеграции с автономными ИИ-агентами. Пользователи подключают платежи и одобряют траты агентов через уведомления без передачи данных. Сервис построен на Issuing for agents с виртуальными картами и контролем расходов.

3 мин

30 апреля 2026 г.

Маск на суде OpenAI вспомнил разрыв с Пейджем

Илон Маск на суде против OpenAI под присягой рассказал о ссоре с Ларри Пейджем из-за разногласий по безопасности ИИ. Бывшие близкие друзья разошлись после перехода ключевого специалиста Google в OpenAI. Маск надеется на примирение.

29 апреля 2026 г.

Google предупреждает: вредоносные сайты захватывают ИИ-агентов

Исследователи Google выявили рост вредоносных команд в HTML публичных сайтов, которые заставляют ИИ-агентов красть данные через непрямые инъекции промптов. Такие атаки незаметны для обычных защит и требуют новых подходов вроде изолированных очистителей и аудита решений. Компании должны срочно внедрять контроль доступа и верификацию источников.

4 мин

27 апреля 2026 г.

Клиент Delve Context AI спровоцировал утечку в Vercel

Стартап Delve, занимающийся compliance, снова в центре внимания: его бывший клиент Context AI спровоцировал утечку данных в Vercel. Другие клиенты вроде LiteLLM и Lovable тоже пострадали от атак и ушли от Delve после обвинений в подделках. Компания отрицает претензии, но потеряла поддержку Y Combinator.

5 мин

24 апреля 2026 г.

Hugging Face разместила вредоносное ПО под видом релиза OpenAI

Репозиторий на Hugging Face под видом релиза OpenAI распространял инфостилер для Windows. До удаления его скачали около 244 тысяч раз, но счётчик могли искусственно увеличить, сообщает HiddenLayer.

12 мая 2026 г.

Codex от OpenAI теперь отслеживает экран для памяти о проектах

OpenAI добавила Chronicle в Codex: функция записывает экран для создания контекста задач без повторных объяснений. Доступна Pro-подписчикам на macOS с предупреждениями о лимитах и рисках безопасности. Записи удаляются через шесть часов.

6 мая 2026 г.

Физический ИИ вызывает вопросы управления автономными системами

Физический ИИ усложняет управление автономными системами, интегрируясь в роботы, сенсоры и промышленное оборудование. Основные вопросы касаются тестирования, мониторинга и остановки действий ИИ в реальном мире. Промышленная робототехника служит базой для этих дискуссий.

4 мая 2026 г.

OpenAI усилила безопасность ChatGPT партнерством с Yubico

OpenAI запустила Advanced Account Security для ChatGPT с партнерством Yubico, выпустив YubiKey C NFC и YubiKey C Nano против фишинга. Защита подходит для высокорисковых пользователей вроде журналистов и чиновников, но требует осторожности с аппаратными ключами. Индустрия ИИ усиливает фокус на безопасность, следуя примеру Anthropic с моделью Mythos.

3 мин

30 апреля 2026 г.

Управление ИИ-агентами выходит на первый план из-за выявленных пробелов в контроле

Австралийский регулятор APRA после обзора финансовых фирм выявил слабости в управлении ИИ-агентами, включая риски поведения моделей, киберугрозы и зависимость от вендоров. Организации активно внедряют ИИ в ключевые процессы, но пробелы в мониторинге и контроле требуют доработки стратегий. FIDO Alliance разрабатывает стандарты аутентификации для ИИ-агентов, а Centre for Internet Security предлагает гайды по безопасности.

4 мин

30 апреля 2026 г.

Claude Mythos Preview меняет подходы к защите кода

Модель Claude Mythos Preview от Anthropic выявила тысячи критических уязвимостей в основных ОС, браузерах и криптобиблиотеках. Компания запустила Project Glasswing с партнерами AWS, Google и другими для сканирования кода и защиты от ИИ-атак. Эксперты рекомендуют комбинировать ИИ с человеческим контролем, чтобы минимизировать ложные срабатывания и ускорить исправления.

5 мин

27 апреля 2026 г.

OpenAI открыла Microsoft доступ к топ-моделям ИИ для киберзащиты

OpenAI через программу Trusted Access for Cyber предоставляет Microsoft доступ к своим мощнейшим моделям для киберзадач, а Microsoft усиливает защиту инфраструктуры партнёра. Компании интегрируют это с инициативой Secure Future Initiative для укрепления экосистемы. Анонс звучит на фоне дебатов о способностях ИИ вроде Mythos от Anthropic в поиске уязвимостей.

24 апреля 2026 г.

Статьи

Создание защиты и управления для ИИ-агентов

ИИ-агенты в организациях открывают новые уязвимости, позволяя доступ к чувствительным данным. Отчёт Deloitte State of AI 2026: 74% компаний внедрят их через два года, но только 21% имеют зрелое управление, с рисками приватности (73%) и compliance (50%). Контрольная плоскость нужна для безопасного масштабирования.