Критические IT-системы по всему миру полны ошибок, а инструменты ИИ делают их эксплуатацию проще простого. Но ИИ способен решить эту задачу: инициатива Great Refactor предлагает автоматически преобразовывать уязвимый код в язык Rust, заточенный под безопасность. Такой подход устранит почти все известные уязвимости в программном обеспечении.
Инструменты ИИ для написания кода быстро прогрессируют и позволяют браться за задачи разработки, которые раньше отпугивали своей сложностью и расходами. Аналитический центр Institute for Progress запустил Great Refactor, чтобы задействовать эти инструменты для перевода открытого исходного кода на C и C++ в Rust. Этот язык специально создан, чтобы блокировать опасные ошибки, связанные с памятью.
Проблемы безопасности памяти возникают, когда программа неправильно работает с данными в памяти. Такие дефекты типичны для языков, где разработчики сами управляют памятью. Новые языки добавляют защиты от подобных сбоев, но платой становится падение скорости. Из-за этого C и C++ никуда не делись, а ошибки с памятью вызывают около 70 процентов всех уязвимостей в софте.
Роль Rust в безопасности памяти
Rust появился в 2015 году и обеспечивает такую же скорость, как у C и C++, но с гарантией безопасности памяти. Крупные компании вроде Amazon, Google и Microsoft массово переходят на него, чтобы защитить свои программы. Однако переделка старого кода вручную обходится в огромные затраты времени и сил.
Руководитель проекта Херби Брэдли, аспирант Кембриджского университета в Великобритании, уверен: ИИ меняет правила игры. Инициатива предусматривает создание специализированной исследовательской организации с поддержкой правительства США. Она задействует ИИ для перевода 100 миллионов строк кода в ключевых библиотеках открытого ПО к 2030 году. За 100 миллионов долларов это предотвратит кибератаки с суммарным ущербом около 2 миллиардов.
«ИИ способен перевернуть разработку софта и сделать реальностью проекты, которые раньше казались неподъемными по цене или срокам», — отмечает Брэдли. «Через пять лет любой сможет создать версию крупной библиотеки на Rust».
Главный плюс в том, что метод бьет по массе уязвимостей сразу, а не тратит силы на каждую по отдельности. Это выручит мелкие библиотеки открытого кода, которые держат на плаву горстка переработанных волонтеров.
Чтобы вручную перевести небольшой фрагмент кода на C в Rust, опытным специалистам нужно тратить тысячи часов — а таких инженеров дефицит. Зато свежие ИИ-инструменты уверенно справляются с программами до 1000 строк без присмотра, а с небольшим контролем — и до 5000 строк. Прогресс налицо.
В обзорной статье с планом говорится о команде из менее 50 инженеров по безопасности, исследователей ИИ и администраторов. За 3–5 лет они серьезно укрепят важные библиотеки. На старте выберут цели по приоритету и настроят надежные средства проверки безопасности и работоспособности кода, переведенного ИИ.
Инструменты перевода на Rust с ИИ
Проект рассчитывает опереться на текущие разработки по ИИ-переводу в Rust, особенно на программу Агентства перспективных оборонных исследований Пентагона (DARPA) Translating All C To Rust, или TRACTOR. Запущенная в 2024 году, она проверяет, как соединить генеративный ИИ с классическим анализом кода для полной автоматизации.
Несмотря на скачок в генерации кода, менеджер программы Дэн Уоллах ставит на гибрид: ИИ плюс традиционные методы. Шесть команд, получивших гранты, экспериментируют с разными пропорциями — от чистого ИИ до инструментов, где модели решают лишь фрагменты.
«ИИ выглядит многообещающе, но десятилетия исследований по разбору софта никуда не делись, — объясняет он. — TRACTOR как раз тестирует, как смешивать классическую информатику с новым ИИ».
Первые итоги команды представили в декабре, сейчас их разбирает экспертная группа. Оценивают по точности исполнения, скорости работы и еще одному критерию — насколько код "идиоматичен" для Rust. То есть соответствует ли он стандартам, как если бы его с нуля написал профи.
Такой код проще дорабатывать людям, но Джош Триплетт, разработчик открытого кода и соавтор Rust, сомневается. «Перевод через ИИ часто дает результат, который человеку тяжело править по сравнению с ручной работой».
Проблема решаема, если проект уже полагается на ИИ в поддержке — это норма сегодня. Тогда перевод логичен. Но новичкам Триплетт советует не рисковать, особенно с популярными библиотеками, от которых зависят тысячи проектов.
«Можно осторожно подключить ИИ для помощи, но без фанатизма, — говорит он. — Нет волшебной пилюли: ИИ может выдумать или не понять задачу».
Еще одна закавыка, по мнению старшего аналитика Джессики Джи из Центра безопасности и новых технологий Университета Джорджтауна: у Rust пока мало разработчиков. «Даже при удачном переводе код придется обслуживать, а экспертов по Rust меньше, чем по C и C++».
Препятствия внедрения Rust
Самое серьезное — добиться финансирования от правительства США в запланированном объеме, считает Джи. Реальнее начать с частных инвестиций на демонстрацию концепции. «Подходящий момент: фирмы ИИ рвутся показать, на что способны их модели».
Брэдли разделяет взгляд. Он общался с представителями властей США и Великобритании, но теперь присматривается к коммерческой модели. Ведь тонны уязвимого кода сидят в частных компаниях и операторах критической инфраструктуры.