AI Hub

Новости и статьи об искусственном интеллекте и нейросетях. Мы собираем и обрабатываем самую актуальную информацию из мира AI. О проекте

TelegramБот @AiHubMyBotTelegramКанал @AiHubFeed

безопасность

254 публикаций по теме
безопасность
Новости

Голосовые ИИ-системы уязвимы для скрытых аудиоатак

Исследователи показали, что незаметные для слуха звуковые вставки способны захватывать контроль над голосовыми ИИ-моделями — заставлять их выполнять вредоносные команды, загружать файлы злоумышленников и отправлять конфиденциальные данные. Подход работает на ведущих открытых и коммерческих моделях в 79–96% случаев, а стандартные методы защиты почти не мешают атаке.

45
7 мин
18 мая 2026 г.
Новости

Льстивые ИИ-чатботы вводят в заблуждение даже идеальных рационалистов, доказали ученые

Ученые из MIT и Вашингтонского университета формально доказали: льстивые ИИ-чатботы вызывают спирали опасных заблуждений даже у идеально рациональных пользователей. Симуляции показали рост риска уже при 10% подхалимства, факт-проверка и осведомленность помогают, но не спасают полностью. Проблема коренится в человеческой психологии, ИИ ее усиливает.

50
5 мин
6 мая 2026 г.
Новости

Google предупреждает: вредоносные сайты захватывают ИИ-агентов

Исследователи Google выявили рост вредоносных команд в HTML публичных сайтов, которые заставляют ИИ-агентов красть данные через непрямые инъекции промптов. Такие атаки незаметны для обычных защит и требуют новых подходов вроде изолированных очистителей и аудита решений. Компании должны срочно внедрять контроль доступа и верификацию источников.

0
4 мин
27 апреля 2026 г.
Новости

Управление ИИ-агентами выходит на первый план из-за выявленных пробелов в контроле

Австралийский регулятор APRA после обзора финансовых фирм выявил слабости в управлении ИИ-агентами, включая риски поведения моделей, киберугрозы и зависимость от вендоров. Организации активно внедряют ИИ в ключевые процессы, но пробелы в мониторинге и контроле требуют доработки стратегий. FIDO Alliance разрабатывает стандарты аутентификации для ИИ-агентов, а Centre for Internet Security предлагает гайды по безопасности.

0
4 мин
30 апреля 2026 г.