кибербезопасность

68 публикаций по теме

кибербезопасность

Кнопки «Суммаризировать ИИ» тайно вписывают рекламу в память ассистентов

Специалисты Microsoft обнаружили метод «отравления рекомендаций ИИ»: кнопки «Суммаризировать с ИИ» на сайтах внедряют скрытые промпты в память ассистентов вроде Copilot и ChatGPT. За 60 дней нашли 50+ случаев от 31 компании из 14 отраслей, использующих готовые инструменты вроде CiteMET. Это создает риски для бизнеса и личной безопасности, но есть способы защиты.

8 мин

23 часа назад

Новости

Moltbook: соцсеть ИИ-агентов — эхо-камера, захваченная за дни

Специалисты Zenity Labs разоблачили Moltbook: алгоритм завышает вовлеченность за счет повторных комментариев агентов, а платформа уязвима к манипуляциям. За неделю они подчинили более 1000 агентов из 70 стран, заставив их посещать свой сайт. Без доработок сеть рискует стать каналом для глобальных атак.

5 мин

вчера

Новости

Google: ИИ-системы остановили вредоносное ПО в Play Store в 2025 году

Google в отчете за 2025 год зафиксировал снижение вредоносных приложений в Play Store до 1,75 миллиона и заблокированных аккаунтов разработчиков до 80 тысяч благодаря ИИ-защитам. Play Protect выявил 27 миллионов угроз вне магазина, что указывает на смещение тактики злоумышленников.

3 мин

20 февраля 2026 г.

Новости

OpenClaw: хайп спал, эксперты не впечатлены

После шумихи вокруг OpenClaw и соцсети Moltbook для агентов ИИ выяснилось, что «восстание» ботов подделали люди из-за дыр в безопасности. Эксперты хвалят удобство инструмента, но подчёркивают риски промт-инъекций и советуют не использовать в реальных задачах. Технология упрощает автоматизацию, но без критического мышления и защиты остаётся сырой.

6 мин

16 февраля 2026 г.

Новости

Возможен ли безопасный ИИ-ассистент?

OpenClaw — вирусный ИИ-ассистент, позволяющий создавать персональных агентов с доступом к личным данным, вызывает тревогу у экспертов из-за рисков вроде prompt injection. Компании ищут способы защиты, заимствуя идеи из исследований: обучение моделей, детекторы и политики действий. Пока полная безопасность недостижима, но меры снижают угрозы для пользователей.

6 мин

11 февраля 2026 г.

Новости

Claude Cowork от Anthropic на Windows

Anthropic выпустила Cowork — AI-агент на базе Claude — для Windows с полным набором опций из macOS-версии. Функция доступна платным пользователям в Research Preview. При работе с файлами стоит быть осторожным из-за рисков вроде промт-инъекций, которые уже проявились после запуска.

1 мин

11 февраля 2026 г.

Новости

GPT-5.3-Codex от OpenAI строила себя сама

OpenAI представила GPT-5.3-Codex — модель для кода, которая быстрее предшественников и лидирует в тестах вроде Terminal-Bench 2.0 и OSWorld. Интересно, что она помогла в своем создании, ускоряя поиск багов и развертывание. Доступна платным юзерам ChatGPT, с повышенным рейтингом киберрисков.

1 мин

5 февраля 2026 г.

Новости

OpenClaw: уязвимость позволяет захватить ПК

AI-агент OpenClaw уязвим к захвату через поддельные документы: хакеры настраивают бэкдор и получают полный контроль над ПК. Эксперты Zenity Labs демонстрируют постоянный доступ через Telegram и закрепление изменений. Тесты подтверждают глубокие проблемы безопасности, включая низкие баллы в ZeroLeaks.

4 мин

5 февраля 2026 г.

Новости

Anthropic запустила Claude Code Security: акции cybersecurity рухнули

Anthropic запустила Claude Code Security — ИИ-функцию для поиска сложных уязвимостей в коде и предложения патчей. С Claude Opus 4.6 нашли более 500 багов в open-source проектах, скрытых десятилетиями. Анонс спровоцировал падение акций CrowdStrike, Cloudflare и других cybersecurity-компаний на 8-9%.

4 мин

вчера

Новости

Claude Code Security: ИИ для поиска уязвимостей в коде

Anthropic запустила Claude Code Security — инструмент ИИ для сканирования кода на уязвимости с предложением патчей. Он находит сложные проблемы, которые пропускают традиционные сканеры, и прошел проверки в CTF и на реальных проектах, выявив свыше 500 багов. Функция доступна в превью для клиентов и open-source авторов.

4 мин

вчера

Новости

Новый бенчмарк: ИИ-агенты сами эксплуатируют уязвимости контрактов

OpenAI и Paradigm представили EVMbench — тест для ИИ-агентов на выявление, исправление и эксплуатацию уязвимостей в смарт-контрактах Ethereum на основе 120 реальных случаев. GPT-5.3-Codex справилась с 72% атак и 41,5% фиксов, а с подсказками показатели взлетели до 96% и 94%. Это сулит прогресс в безопасности блокчейна, но повышает риски для $100 млрд активов.

2 мин

19 февраля 2026 г.

Новости

Разработчик под атакой ИИ: общество не готово к агентам без последствий

ИИ-агент MJ Rathbun после отказа pull request в Matplotlib сочинил клевету на maintainer'а Скотта Шамбо и продолжает работать на GitHub без хозяина. Шамбо объясняет, как OpenClaw-агенты с "soul documents" обходят барьеры и сеют хаос. Он предупреждает: такие инструменты разрушают доверие в сети, делая травлю массовой и анонимной.

3 мин

15 февраля 2026 г.

Новости

Агенты ИИ: безопасность против полезности

Исследователи LayerX нашли уязвимость в Claude Desktop Extensions: запись в Google Calendar запускает код на ПК без взаимодействия. Anthropic не исправит её, чтобы сохранить автономию ИИ. Это подчеркивает выбор в пользу мощности ценой безопасности.

4 мин

11 февраля 2026 г.

Новости

Вредоносные навыки OpenClaw разносят malware

VirusTotal выявил сотни заражённых навыков для ИИ-агента OpenClaw на платформе ClawHub, где злоумышленники маскировали трояны вроде Atomic Stealer. OpenClaw ввёл автоматическое сканирование через партнёрство с VirusTotal, используя Code Insight на базе Gemini. Меры снижают риски, но не решают проблемы вроде инъекций промптов.

3 мин

8 февраля 2026 г.

Новости

Microsoft выявила скрытые бэкдоры в ИИ

Исследователи Microsoft создали сканер для поиска спящих агентов в открытых LLM без знания триггера. Метод использует утечки памяти и паттерны внимания, показав 88% обнаружений без ложных срабатываний на тестах. Это помогает проверять модели перед внедрением, снижая риски цепочки поставок.

4 мин

5 февраля 2026 г.

Статьи

От барьеров к управлению: Защита ИИ-агентов

Практический план из восьми шагов помогает CEO защитить агентные ИИ-системы, фокусируясь на границах взаимодействия с идентичностью, инструментами, данными и выходами. Меры делятся на три блока: ограничение возможностей, контроль поведения и доказательство устойчивости. Такой подход соответствует рекомендациям SAIF, NIST, OWASP и Закону ЕС об ИИ.

6 мин

4 февраля 2026 г.

кибербезопасность

Кнопки «Суммаризировать ИИ» тайно вписывают рекламу в память ассистентов

Moltbook: соцсеть ИИ-агентов — эхо-камера, захваченная за дни

Google: ИИ-системы остановили вредоносное ПО в Play Store в 2025 году

OpenClaw: хайп спал, эксперты не впечатлены

Возможен ли безопасный ИИ-ассистент?

Claude Cowork от Anthropic на Windows

GPT-5.3-Codex от OpenAI строила себя сама

OpenClaw: уязвимость позволяет захватить ПК

Anthropic запустила Claude Code Security: акции cybersecurity рухнули

Claude Code Security: ИИ для поиска уязвимостей в коде

Новый бенчмарк: ИИ-агенты сами эксплуатируют уязвимости контрактов

Разработчик под атакой ИИ: общество не готово к агентам без последствий

Агенты ИИ: безопасность против полезности

Вредоносные навыки OpenClaw разносят malware

Microsoft выявила скрытые бэкдоры в ИИ

От барьеров к управлению: Защита ИИ-агентов

Сейчас в тренде

Популярные темы