OpenAI представила подробности о Codex CLI, новом агентном инструменте, который позволяет пользователям работать с кодом непосредственно на своих машинах. Этот материал окажется особенно полезным разработчикам, создающим собственных агентов или стремящимся оптимизировать расходы на инференс.

Codex CLI основан на классической модели agent loop: пользователь отправляет запрос, после чего система формирует объемный промпт с проектными инструкциями. Модель отвечает текстом или инициирует вызов инструмента, а агент обрабатывает команду, возвращая результат в контекст. Цикл повторяется, пока задача не будет выполнена, при этом стоит помнить о строгом лимите в 32 Кб для JSON-данных.

Ключевым моментом является проблема расходов на контекст, так как история взаимодействия усложняет ситуацию. Для смягчения ситуации внедрено кэширование промптов, что позволяет сократить затраты до линейного уровня, однако изменения могут повлиять на эффективность.

Архитектура API теперь работает в stateless режиме, что избегает хранения состояния диалога. Codex CLI также автоматически запускает механизм компактации контекстного окна, уменьшая объем данных без утраты смысла.

OpenAI подчеркнула, что инструмент доступен не только через их серверы, но также способен работать с локальными моделями. В будущем ждите более детального анализа CLI и его возможностей.