monitoring: decouple default profile from optional llm/llm-gpu
Целевой набор профилей compose по умолчанию (media,monitoring) не включает llm/llm-gpu — job `llm` в prometheus.yml и алерт LlmDown в alerts.yml закомментированы, иначе Prometheus постоянно логировал бы неудачный скрейп несуществующего таргета, а LlmDown вечно оставался бы firing. Раскомментировать оба вместе — на инсталляциях с профилем llm/llm-gpu (пресеты 3-5 install.sh). Дашборд «Пайплайны пост-обработки» и docs/deploy/monitoring.md обновлены с пояснением, что большинство панелей показывают «No data» без transcribe/llm — это ожидаемо, не баг.
This commit is contained in:
@@ -41,19 +41,22 @@ groups:
|
||||
# LLM-сервер (llama.cpp, job `llm` — см. комментарий в prometheus.yml
|
||||
# про сетевой алиас `llm`/`llm-gpu`) недоступен. Актуально ТОЛЬКО на
|
||||
# инсталляциях с включённым профилем `llm`/`llm-gpu` (пресеты 3–5,
|
||||
# `install.sh`) — на пресетах 1/2 (без AI) таргет `llm:8080` в принципе
|
||||
# не резолвится, и этот алерт будет постоянно активен, если профиль
|
||||
# `monitoring` включён без AI-профиля; для таких инсталляций правило
|
||||
# можно отключить (закомментировать) в локальной копии alerts.yml.
|
||||
- alert: LlmDown
|
||||
expr: up{job="llm"} == 0
|
||||
for: 2m
|
||||
labels:
|
||||
severity: critical
|
||||
annotations:
|
||||
summary: "LLM-сервер (llama.cpp) недоступен"
|
||||
description: >-
|
||||
Prometheus не может достучаться до llm:8080 дольше 2 минут —
|
||||
суммаризация встанет (задачи будут копиться в очереди summarize,
|
||||
см. также алерт QueueGrowing). Проверить
|
||||
`docker compose ps llm` / `llm-gpu` и `docker compose logs llm`.
|
||||
# `install.sh`) — целевой набор профилей по умолчанию (`media,monitoring`,
|
||||
# см. .env.example) их не включает, поэтому правило закомментировано
|
||||
# вместе с job `llm` в prometheus.yml (иначе `up{job="llm"}` не находит
|
||||
# ни одной серии — сам по себе закомментированный job уже не даёт этому
|
||||
# алерту сработать, но держать активное правило на несуществующую
|
||||
# метрику вводит в заблуждение). Раскомментируйте оба вместе на
|
||||
# инсталляциях с профилем `llm`/`llm-gpu`.
|
||||
# - alert: LlmDown
|
||||
# expr: up{job="llm"} == 0
|
||||
# for: 2m
|
||||
# labels:
|
||||
# severity: critical
|
||||
# annotations:
|
||||
# summary: "LLM-сервер (llama.cpp) недоступен"
|
||||
# description: >-
|
||||
# Prometheus не может достучаться до llm:8080 дольше 2 минут —
|
||||
# суммаризация встанет (задачи будут копиться в очереди summarize,
|
||||
# см. также алерт QueueGrowing). Проверить
|
||||
# `docker compose ps llm` / `llm-gpu` и `docker compose logs llm`.
|
||||
|
||||
@@ -1,5 +1,6 @@
|
||||
{
|
||||
"title": "Пайплайны пост-обработки",
|
||||
"description": "Требует профилей compose transcribe/llm (см. .env.example, COMPOSE_PROFILES) — по умолчанию (media,monitoring) большинство панелей будет показывать «No data», это ожидаемо, не баг.",
|
||||
"uid": "vidconf-pipelines",
|
||||
"editable": false,
|
||||
"timezone": "browser",
|
||||
@@ -104,7 +105,7 @@
|
||||
{
|
||||
"id": 5,
|
||||
"title": "LLM-сервер доступен (job=llm)",
|
||||
"description": "up{job=\"llm\"} — 1, если Prometheus успешно скрейпит llama.cpp (алерт LlmDown, deploy/monitoring/alerts.yml). Актуально только на инсталляциях с профилем llm/llm-gpu (пресеты 3–5).",
|
||||
"description": "up{job=\"llm\"} — 1, если Prometheus успешно скрейпит llama.cpp (алерт LlmDown, deploy/monitoring/alerts.yml). Job llm и алерт LlmDown закомментированы по умолчанию (см. prometheus.yml/alerts.yml) — раскомментируйте оба на инсталляциях с профилем llm/llm-gpu (пресеты 3–5), иначе эта панель показывает «No data».",
|
||||
"type": "stat",
|
||||
"gridPos": { "h": 4, "w": 6, "x": 0, "y": 16 },
|
||||
"datasource": { "type": "prometheus", "uid": "prometheus" },
|
||||
|
||||
@@ -40,6 +40,14 @@ scrape_configs:
|
||||
# которого в сети compose есть сетевой алиас `llm`, см. его определение в
|
||||
# deploy/docker-compose.yml) — эти профили взаимоисключающи, поэтому один
|
||||
# job без дублирования и без вечно недоступного второго таргета.
|
||||
- job_name: llm
|
||||
static_configs:
|
||||
- targets: ["llm:8080"]
|
||||
#
|
||||
# Закомментировано по умолчанию: целевой набор профилей compose —
|
||||
# `media,monitoring` (см. .env.example, COMPOSE_PROFILES), БЕЗ `llm`/
|
||||
# `llm-gpu` — таргет `llm:8080` в этом случае не резолвится вовсе, и
|
||||
# Prometheus писал бы в лог постоянные ошибки скрейпа, а алерт `LlmDown`
|
||||
# (deploy/monitoring/alerts.yml, тоже закомментирован) вечно оставался бы
|
||||
# firing. Раскомментируйте оба вместе на инсталляциях с профилем
|
||||
# `llm`/`llm-gpu` (пресеты 3–5 install.sh).
|
||||
# - job_name: llm
|
||||
# static_configs:
|
||||
# - targets: ["llm:8080"]
|
||||
|
||||
Reference in New Issue
Block a user