К содержимому

Таймауты, параллельность и токены ​

Ограничения управляют разными ресурсами. Настройте их под длительность и объём задач.

НастройкаЧто ограничиваетЗначение по умолчанию
MAX_CONCURRENT_SESSIONSОдновременно занятые слоты исполнения50
SANDBOX_PROVISION_TIMEOUT_SECONDSПервоначальное создание и подключение песочницы120 с
run_timeout_secondsВремя исполнения агента в запуске3600 с
hooks.timeout_secondsВремя каждого хука300 с
max_session_tokensВходные и выходные токены всех запусков сессии100 000 000
json
{
  "run_timeout_seconds": 900,
  "max_session_tokens": 500000
}

Это значение configuration.limits. В Mattermost аналогичные поля задаются в workflow. max_concurrent_runs дополнительно ограничивает одновременную работу конкретного workflow.

При исчерпании глобальной ёмкости новый запрос получает 503 capacity_exhausted. Коннектор должен повторить его позже с тем же ключом идемпотентности. Бюджет токенов измеряется по отчётам агента, поэтому не служит точным денежным лимитом. Исчерпанная сессия не принимает новые запуски.

Первоначальная подготовка песочницы имеет отдельный дедлайн. По его истечении запуск завершается с sandbox_provision_timeout. Отмена на этом этапе завершается даже при ошибках запросов к AgentBox. Orpheus продолжает искать песочницу и удаляет её, если находит. До подтверждения удаления слот исполнения остаётся занят, в том числе после завершения запуска. См. диагностику.

Orpheus продлевает время активности песочницы во время работы. Таймаут запуска не требуется прибавлять к таймауту хуков вручную. Максимальная непрерывная жизнь песочницы определяется тарифом AgentBox.

Лимиты аккаунтов отражают квоты провайдера отдельно от этих настроек.

Хранение песочниц на паузе: срок, уборка и продолжение работы.