Во вторник утром глава Google DeepMind Демис Хассабис опубликовал в X пост, в котором призвал к созданию нового регулирующего органа для надзора за выпуском передовых моделей. Публикация под названием «A Framework for Frontier AI and the Dawning of a New Age» обосновывает необходимость «органа по стандартам», созданного по образцу Управления по регулированию финансовой индустрии (FINRA). Такой орган мог бы тестировать frontier-модели и разрабатывать лучшие практики для их релиза.
«На начальном этапе Frontier Labs будут добровольно передавать модели в Орган по стандартам на проверку за 30 дней до выпуска», — говорится в посте. «Как только протокол оценки докажет свою эффективность и надёжность, может быстро последовать формализация: это будет означать, что для развёртывания на рынке США Frontier-модели должны будут пройти такую проверку. Лаборатории также будут сотрудничать с Органом по стандартам для устранения любых критических уязвимостей, обнаруженных после релиза».
Предлагаемая система опиралась бы на специальные проверки, которые правительство США уже проводило для моделей Mythos от Anthropic и Sol от OpenAI. Те ревью вызвали серьёзную критику из-за нехватки технической экспертизы и непрозрачности решений о том, когда модель можно выпускать. При новом регуляторе, предложенном Хассабисом, эти решения могла бы взять на себя новая организация: её поддерживало бы правительство США, но финансировалась бы она ИИ-индустрией и работала независимо.
Перспектива регулирования ИИ остаётся спорной как для технологической отрасли, так и для администрации Трампа. Совсем недавно советник Белого дома по ИИ и генеральный партнёр a16z Шрирам Кришнан исключил возможность появления ИИ-регулятора внутри исполнительной власти, заявив: «FDA для ИИ не будет».
Учреждение органа по стандартам как саморегулируемой организации наподобие FINRA могло бы стать способом учесть эти опасения. Хассабис представляет регулятора, укомплектованного представителями open source-сообщества и техническими экспертами из индустрии, с финансовой поддержкой от самих ИИ-лабораторий — без неё удержать таких специалистов было бы невозможно. Часть оценок можно было бы даже передавать на аутсорс растущему пулу групп по безопасности ИИ, которые могли бы специализироваться на конкретных рисках.
«Сила этого подхода в его технической сфокусированности: одновременно он поддерживает инновации и стимулирует ответственное поведение», — утверждает Хассабис. «Он спроектирован так, чтобы не отставать от ускорения отрасли и адаптироваться к самым большим рискам по мере их выявления; при необходимости жёсткость регулирования можно повысить, если серьёзность ситуации того потребует».