Новости и статьи об искусственном интеллекте и нейросетях. Мы собираем и обрабатываем самую актуальную информацию из мира AI. О проекте
OpenAI пережила утечку данных API-клиентов после компрометации аналитического сервиса Mixpanel. Злоумышленники заполучили имена, email, локации и другие метаданные, но не пароли или чаты. Пользователи ChatGPT в безопасности, а компания уведомляет пострадавших и усиливает меры предосторожности.
Palo Alto Networks приобретает платформу мониторинга Chronosphere за 3,35 миллиарда долларов, чтобы усилить свои решения для ИИ-эпохи. Объединение с Cortex AgentiX позволит перейти от пассивного наблюдения к автономной коррекции проблем в реальном времени. Chronosphere уже используется ведущими ИИ-компаниями и признана лидером в отчете Gartner 2025 года.
Прорыв в антагонистическом обучении позволяет внедрять реальную защиту ИИ без задержек, благодаря сотрудничеству Microsoft и NVIDIA. Оптимизации на GPU и специализированные токенизаторы снижают latency в 160 раз, обеспечивая точность выше 95 процентов. Это помогает компаниям противостоять эволюционирующим угрозам вроде vibe-кодинга в реальном времени.
Крупные страховщики просят исключить риски ИИ из полисов из-за непредсказуемости моделей. Примеры ошибок, таких как ложные обвинения от Google и deepfake-мошенничество, показывают реальные угрозы. Главный страх — не единичные случаи, а массовые претензии от тысяч пользователей.
Google расширяет применение ИИ для защиты от цифрового мошенничества в Индии, вводя обнаружение на устройствах Pixel 9 и уведомления в финансовых приложениях. Несмотря на новые меры, такие как блокировка вредоносных установок и кампании осведомленности, остаются пробелы в предотвращении фальшивых приложений. Это особенно актуально на фоне роста обмана, вызвавшего миллиарды рупий убытков.
Кибербезопасная компания Guardio привлекла $80 млн инвестиций для борьбы с угрозами, возникающими из-за ИИ-инструментов для генерации кода. Стартап фокусируется на выявлении вредоносного контента в сайтах и приложениях, созданных с помощью vibe-кодирования, и уже сотрудничает с платформой Lovable. Компания достигла $100 млн ARR и планирует расширить функции видимости для пользователей.
Технологии ИИ и квантовых вычислений радикально меняют ландшафт кибербезопасности, усиливая угрозы от автоматизированных атак и потенциально подрывая существующие шифры. Эксперты подчеркивают необходимость перехода к модели нулевого доверия и инвестиций в постквантовую криптографию для обеспечения устойчивости. Организации должны начинать подготовку уже сейчас, чтобы опередить эволюцию рисков.
Стартап CyDeploy разрабатывает цифровые двойники корпоративных систем для безопасного тестирования обновлений с помощью машинного обучения. Платформа фиксирует пользовательские взаимодействия, автоматически анализирует их и позволяет администраторам проверять изменения в изолированной среде. Это помогает балансировать между защитой от угроз и стабильностью работы инфраструктуры.
Rep+ — это расширение для Chrome DevTools, которое упрощает захват, повтор и анализ HTTP-запросов с помощью ИИ от Anthropic. Оно предлагает группировку запросов, массовые атаки, экстракцию секретов и эндпоинтов, без нужды в прокси. Подходит для быстрого тестирования безопасности веб-приложений.
Генеративный ИИ развивается быстро, но несёт риски для данных и безопасности. Статья разбирает угрозы вроде внедрения промтов, проблем с MCP-серверами и агентами, предлагая практические советы по защите. Знание этих рисков помогает использовать ИИ эффективно и безопасно.
Модель Claude Opus 4.5 от Anthropic демонстрирует повышенную устойчивость к промпт-инъекциям по сравнению с Gemini 3 Pro и GPT-5.1, но сильные атаки всё равно прорывают её защиту в значительном числе случаев. Тестирование Gray Swan подчёркивает, насколько ограничены текущие меры безопасности в ИИ.
Финансовые лидеры демонстрируют сильную поддержку внедрения ИИ в аудиторские процессы, готовые платить за такие услуги больше, но выражают серьезные опасения по поводу безопасности данных. Опросы показывают рост энтузиазма, однако подчеркивают риски, связанные с "черным ящиком" ИИ и потенциальными злоупотреблениями. Аудиторы видят в технологиях полезного ассистента, балансируя между инновациями и профессиональным контролем.
Цифровая устойчивость приобретает особую важность в эпоху агентного ИИ, который усиливает риски от сбоев в данных и инфраструктуре. Компании должны внедрять тканевую структуру данных для интеграции машинных данных, что позволит агентам ИИ эффективно выявлять угрозы и обеспечивать непрерывность. При этом необходим контроль со стороны человека для минимизации рисков.
Cloudflare объяснила масштабный интернет-сбой скрытой ошибкой в системе защиты от ботов, вызванной рутинным изменением конфигурации. Инцидент затронул множество популярных сервисов и привел к каскадным сбоям в сети. Компания уже устраняет остаточные проблемы и обещает меры по предотвращению повторений.
Кибербезопасная компания Deepwatch сократила от 60 до 80 сотрудников из 250 для ускорения инвестиций в ИИ и автоматизацию. Гендиректор объяснил это необходимостью реструктуризации. Такие увольнения не уникальны: аналогичные шаги предприняли CrowdStrike и другие фирмы отрасли.
Новые AI-браузеры вроде ChatGPT Atlas и Comet предлагают удобные агенты для автоматизации задач, но несут серьезные риски для приватности из-за уязвимостей вроде инъекций промптов. Эксперты подчеркивают необходимость осторожного подхода к предоставлению доступа и внедрения защитных мер. Компании уже работают над решениями, однако полная защита пока недостижима.