OpenAI стремится помешать выступлению эксперта по безопасности ИИ в судебном процессе, опираясь на аргументы, которые противоречат прошлым заявлениям самой компании.
Общественная организация The Midas Project критикует двойные стандарты OpenAI в текущем судебном противостоянии с Илоном Маском. Компания подала ходатайство, чтобы запретить свидетельские показания профессора ИИ Стюарта Рассела, окрестив его «видным ИИ-doomer», который «создал карьеру на лекциях о возможном уничтожении человечества ИИ». В документе его позиции именуют «дистопичными», «спекулятивными» и «алармистскими». Рассел много лет предостерегает, что неконтролируемые мощные ИИ-системы способны стать экзистенциальной угрозой для людей.
Противоречие бросается в глаза. OpenAI использовала похожие картины рисков для продвижения себя: от тревог о массовых увольнениях и манипуляциях обществом до апокалиптических видений.
The Midas Project подчеркивает, что CEO OpenAI Сэм Альтман в 2023 году вместе с Расселом подписал декларацию, где риск исчезновения человечества от ИИ признали глобальным приоритетом. Ещё в 2015-м Альтман заявлял, что ИИ «вероятно, в итоге приведёт к концу света».
Юристы OpenAI утверждают, что опасения гонки ИИ в ущерб безопасности не относятся к делу. Однако, как отмечает The Midas Project, хартия самой компании прямо описывает этот страх — поздние этапы разработки AGI могут перерасти в гонку без должных мер предосторожности.
OpenAI уже следует этому сценарию. Проверки безопасности GPT-4o прошли в спешке под давлением сроков, то же затронуло новые модели. Компания сократила штаты в командах безопасности, а несколько известных исследователей ушли.
OpenAI и The Midas Project уже сталкивались
The Midas Project считает, что OpenAI выдвигает в суде удобные тезисы, игнорируя свои устоявшиеся взгляды. Организации имеют общую историю: OpenAI ранее направила The Midas Project повестку в рамках спора с Маском.
По словам основателя Тайлера Джонстона, компания потребовала все переписки с журналистами, законодателями, экс-сотрудниками OpenAI и другими общественными группами, хотя The Midas Project не участвовала в процессе.
Джонстон тогда предположил, что это целенаправленный удар перед решениями властей Калифорнии и Делавэра по превращению OpenAI в прибыльную структуру стоимостью до 500 миллиардов долларов. Организация открыто критиковала эту перестройку.