Гендиректор OpenAI Сэм Альтман предостерегает: удобство ИИ-агентов подталкивает нас передавать им слишком много власти без готовой системы защиты.
Он сам не выдержал и уже через два часа дал модели Codex от OpenAI полный доступ к своему компьютеру, нарушив личное обещание.
"Меня беспокоит вот что: мощь и простота этих инструментов огромны, сбои случаются редко, но могут привести к катастрофе, и мы просто скатимся в ситуацию, где подумаем: 'ладно, рискнем, авось пронесет'," заявил Сэм Альтман на сессии вопросов и ответов с разработчиками.
Альтман рассказал, что сначала относился к идее скептически, но быстро предоставил агентам неограниченный доступ к ПК, поскольку "агент ведет себя вполне разумно". По его мнению, другие пользователи поступают аналогично. Главная опасность в том, что такое удобство заставит всех незаметно втянуться в рискованную зону, где сложные модели получат доверие без предварительной постройки защитных механизмов.
С ростом возможностей моделей пробелы в безопасности могут проявиться внезапно, а проблемы с согласованностью поведения — остаться незамеченными на протяжении недель или месяцев. Широкой инфраструктуры для защиты от подобных угроз пока нет, и Альтман считает это отличной нишей для нового стартапа.
Разработчик OpenAI раньше делился в X: он разрешает ИИ генерировать весь свой код. По его прогнозам, скоро компании перейдут на такой подход и утратят понимание собственных кодовых баз. Это чревато серьезными уязвимостями в безопасности, хотя в итоге проблемы удастся решить.
OpenAI замедлит набор сотрудников, GPT-5 уступает в стиле письма, но силен в логике
С корпоративной стороны OpenAI впервые собирается притормозить расширение команды. Альтман объясняет: с меньшим штатом фирма добьется больших результатов, и нет смысла активно набирать людей, чтобы потом, осознав мощь ИИ, устраивать сложные разговоры об увольнениях. Критики могут усмотреть в этом удобный способ обуздать взлетевшие расходы на персонал с помощью дружественного ИИ нарратива.
Альтман подтвердил: GPT-5 по качеству редакторского или художественного текста уступает GPT-4.5. После запуска моделей с акцентом на рассуждения приоритеты сместились к логике и программированию, поясняет он. Однако впереди эра мощных универсальных систем, и даже модель, заточенная под код, обязана выражаться изящно.