Новости и статьи об искусственном интеллекте и нейросетях. Мы собираем и обрабатываем самую актуальную информацию из мира AI. О проекте
Sysdig обнаружила первую полностью автономную атаку ИИ-вымогателя. JADEPUFFER использовал старую уязвимость Langflow, чтобы зашифровать данные и потребовать выкуп. Эксперты подчеркивают, что корень проблемы — в старых ошибках управления доступом и слабых паролях.
В 2025 году правительство Альберты с помощью Claude Code провело аудит 466 миллионов строк кода за 20 часов и устранило уязвимости. Также созданы ИИ-агенты для непрерывной проверки безопасности систем. Опыт описан в технических документах, доступных другим ведомствам.
Администрация Трампа разрешила Anthropic вернуть модель Mythos 5 для более чем 100 американских компаний и агентств, включая неамериканских сотрудников. Ранее модель была запрещена из-за опасений безопасности. Fable 5 пока не получил аналогичного разрешения.
Linux Foundation совместно с 20 компаниями, включая Amazon, Google и Microsoft, запустила инициативу Akrites для быстрого исправления уязвимостей в open-source. Цель — опередить ИИ-инструменты, которые теперь могут находить баги за минуты. Проект создаёт единую команду реагирования и поддерживает мейнтейнеров, даже если они уже неактивны.
OpenAI расширяет инициативу Daybreak: обновлён плагин Codex Security и выпущена модель GPT-5.5-Cyber, которая обходит Mythos от Anthropic в тестах на кибербезопасность. Более 25 компаний и несколько правительств присоединились к программе, а для открытого ПО запущена инициатива Patch the Planet.
В июне 2026 года Белый дом приказал Anthropic ограничить экспорт ИИ-моделей Mythos и Fable. Экспортный контроль имеет долгую историю провалов, начиная с Crypto Wars и заканчивая Wassenaar. Сейчас ограничения вряд ли остановят распространение мощных ИИ-технологий.
Google подала в суд на китайскую кибергруппировку Outsider Enterprise, которая с помощью ИИ создала более миллиона фишинговых сайтов. Преступники похитили данные сотен тысяч жертв, а ущерб от кражи кредитных карт может достигать 1,9 миллиарда долларов.
Гендиректор Amazon Энди Джесси предупредил американских чиновников, что исследователи компании смогли использовать Claude Fable 5 для извлечения опасной информации, пригодной для кибератак. В ответ правительство ввело экспортные ограничения на модели Anthropic Fable 5 и Mythos 5, что привело к отключению к ним мирового доступа.
Sysdig зафиксировала первую атаку вымогателя, где ИИ-агент автоматически взламывал серверы и шифровал данные, однако выбор цели и подготовка инфраструктуры остались за человеком. Эксперты отмечают скорость и прозрачность действий агента, но полная автономность пока недостижима.
Китайская компания 360 и японский стартап Sakana AI представили новые ИИ-модели, способные конкурировать с Anthropic Mythos, экспорт которого запрещен администрацией США. Sakana AI запустила Fugu — модель для оркестрации агентов, а 360 — инструмент для поиска уязвимостей Tulongfeng. Запрет создал вакуум, который азиатские компании активно заполняют.
OpenAI по требованию правительства США ограничивает доступ к модели GPT-5.6, одобряя каждого клиента отдельно. Это связано с указом Трампа о добровольной проверке ИИ и инцидентом с Anthropic, когда модель Fable пришлось отключить после запуска.
OpenAI и Trail of Bits объявили о старте проекта Patch the Planet, в рамках которого инженеры безопасности с помощью ИИ проверяют открытый код на уязвимости. Это снижает нагрузку на сопровождающих проекты и помогает оперативно разрабатывать исправления. Инициатива переворачивает привычную модель, направляя возможности ИИ на защиту open source, а не на создание угроз.
Теневые агенты — несанкционированные ИИ-агенты, действующие без контроля. Они возникают из-за быстрого прототипирования и отсутствия процедур управления. Для снижения рисков необходим инвентаризация, владельцы, разрешения и мониторинг.
NewCore вышел из скрытого режима с $66 млн инвестиций для создания системы управления удостоверениями ИИ-агентов. Крупные компании уже используют тысячи цифровых сотрудников, а архитектура разделённого ключа обеспечивает безопасность без единой точки отказа.
Правительство США потребовало отключить Claude Fable 5 и Mythos 5 из-за подозрений в джейлбрейке. Anthropic выполнила предписание, но считает его чрезмерным, называя причиной случай, который уже воспроизводится в других публичных моделях.
Правительство США выпустило директиву о приостановке доступа к моделям Fable 5 и Mythos 5, сославшись на национальную безопасность и возможный джейлбрейк. Anthropic не согласна с таким широким ограничением, но выполняет требования, пока работает над восстановлением доступа.