К содержимому

Производительность и параллельность ​

Начните с лимитов, которые соответствуют доступной квоте модели и AgentBox. Увеличение числа worker не увеличивает квоты внешних сервисов.

ПараметрУровень
MAX_CONCURRENT_SESSIONSОбщая ёмкость исполнения Orpheus
max_concurrent_runsОдновременные запуски Mattermost workflow
MAX_PARALLEL_THREADSПараллельная обработка тредов коннектором
MAX_CONCURRENT_REVIEWSОдновременные ревью GitLab MR
message_batch_windowОбъединение близких сообщений перед запуском

В одной сессии выполняется один запуск. Независимые сессии могут работать параллельно.

Несколько API и worker должны использовать одну БД, одинаковые настройки хранилищ авторизации, allowlist и ключ шифрования. Системные настройки, влияющие на приём задач, должны совпадать. Не применяйте разные лимиты к экземплярам одной инсталляции.

Mattermost-коннектор запускайте в одном экземпляре на источник (сервер и бот). Для независимых источников возможны отдельные процессы. Не увеличивайте число реплик одного источника как способ ускорения.

Коннектор ревью GitLab тоже работает в одном экземпляре на инсталляцию GitLab и бота. Меняйте его лимит параллельности, не добавляя реплики для того же бота.

При росте задержки проверьте активные задачи, квоты аккаунтов, ошибки подготовки песочниц и время ответа корпоративных API. Восстановление Mattermost ограничено окнами истории. Новые события получают приоритет перед восстановлением архива.