Искусственный интеллект как угроза кибербезопасности – но не так, как вы думаете
Искусственный интеллект создаёт проблемы для безопасности, но самым неожиданным способом. Apple ограничила количество отчётов об уязвимостях, которые могут отправлять исследователи, и ввела 30-дневный интервал между заявками. Причина – поток низкокачественных отчётов, сгенерированных нейросетями, с вымышленными уязвимостями, сообщает Financial Times. Исследователи могут запросить увеличение квоты.
Ограничение создаёт реальные пробелы в безопасности: итальянский стартап Bynario с помощью ChatGPT нашёл серьёзную уязвимость в macOS, позволявшую злоумышленникам получить полный контроль над компьютером, но не смог сообщить о ней – Apple заблокировала приём новых заявок. Генеральный директор Альфредо Песоли оценил стоимость этой уязвимости на чёрном рынке в сумму от 100 до 200 тысяч долларов. Позже Apple связалась с Bynario.
Тем временем сама Apple применяет ИИ от Anthropic и OpenAI для поиска уязвимостей, а в последних обновлениях исправила в пять раз больше ошибок, чем обычно. Возникает вопрос, смогут ли программы баг-баунти выжить в долгосрочной перспективе или крупные технологические компании перейдут на самостоятельное обнаружение уязвимостей. Рейф Пиллинг из Sophos заявил в беседе с FT, что программы bug bounty превратились из средства поиска уязвимостей в инструмент их валидации, работающий «с машинной скоростью».