OpenAI и Anthropic сейчас активно борются с попытками сторонних разработчиков обучать новые ИИ-модели через запросы к их общедоступным чатботам и API. Такой подход называют дистилляцией.
Основное внимание уделяют китайским компаниям, которые дистиллируют модели, чтобы выпускать открытые варианты почти с той же производительностью, что и у американских, но по значительно меньшей цене. В то же время в индустрии давно считают, что лаборатории из США тоже применяют эти методы против конкурентов, чтобы оставаться в гонке.
Теперь подтверждение появилось хотя бы для одного случая: в четверг в федеральном суде Калифорнии Илона Маска напрямую спросили, применяла ли xAI дистилляцию моделей OpenAI для подготовки Grok. Он назвал это распространенной практикой среди компаний в сфере ИИ. Когда уточнили, значит ли это «да», Маск ответил: «Частично».
Маск ведет процесс против OpenAI, ее CEO Сэма Альтмана и Грега Брокмана. Он обвиняет их в отступлении от первоначальной некоммерческой цели организации, перейдя к коммерческой структуре. Судебное разбирательство стартовало на этой неделе, и Маск уже дал показания.
Такое признание примечательно: дистилляция подрывает ключевое преимущество ИИ-гигантов, которых они получили благодаря огромным вложениям в вычислительную инфраструктуру. Благодаря ей другие разработчики могут создавать сопоставимые по возможностям модели с минимальными затратами. Здесь есть ирония — сами ведущие лаборатории часто нарушают правила авторского права, чтобы собрать достаточно данных для обучения своих систем.
Ничего удивительного, что xAI Маска, запущенная в 2023 году, спустя годы после OpenAI, черпала знания у тогдашнего лидера рынка. Сама по себе дистилляция не считается явно незаконной, но способна противоречить условиям использования продуктов этих компаний.
OpenAI, Anthropic и Google, по данным источников, создали в рамках Frontier Model Forum совместный проект по обмену сведениями о защите от дистилляции со стороны Китая. Такие атаки обычно подразумевают систематические запросы для раскрытия внутренних принципов работы моделей. Чтобы пресечь их, ведущие лаборатории вводят ограничения на подозрительно массовые обращения пользователей.
OpenAI на момент публикации не ответила на запрос о комментарии по словам Маска.
Позже в показаниях Маска спросили о его утверждении прошлым летом, что xAI вскоре обгонит всех, кроме Google. В ответ он составил рейтинг лидеров ИИ: на первом месте Anthropic, за ней OpenAI, Google и открытые модели из Китая. xAI он описал как небольшую компанию с несколькими сотнями сотрудников.