chore(gpu-01): retire les serveurs llama CPU system/monitor/dev (inutilisés) (#31)

Trois instances llama-server CPU manuelles (hors Ansible) tournaient sur gpu-01
sans servir : déjà orphelines de LiteLLM (alias absents de config.yaml, d'où le
bruit "Invalid model name"). Suppression complète :

gpu-01 (opérationnel, déjà fait) :
- systemctl disable --now + rm des units llama-server-{system,monitor,dev}
- ports firewall 1235/1236/1237 fermés

Repo :
- monitoring : scrape jobs (values.yaml) + alertes LlamaServer{System,Monitor}Down
  (alerts-ai.yaml) retirés → plus de "target down"/alertes fantômes ; panneaux de
  statut dashboard-infrastructure recyclés (system→llama-embed, monitor supprimé).
- docs admin/ + hermes-skills (souls funk-ai/brain, SKILL agent-delegation) mises à
  jour : inventaire modèles, profils Hermès system/monitor sans backend (à repointer
  sur qwen3-8b), litellm, ops, monitoring.

Les profils Hermès system/monitor existent toujours mais sans backend dédié.
Dashboards Grafana dashboard-ai (panneaux graphiques CPU) laissés tels quels
(cosmétique, séries vides, aucune alerte).

Co-authored-by: Claude Opus 4.8 <noreply@anthropic.com>
This commit is contained in:
ALI YESILKAYA 2026-06-20 13:25:50 +02:00 committed by GitHub
parent ef15ba25e0
commit 470c69881c
No known key found for this signature in database
GPG key ID: B5690EEEBB952194
17 changed files with 90 additions and 147 deletions

View file

@ -37,7 +37,7 @@ KNOWLEDGE = [
{
"category": "litellm",
"tags": ["litellm", "config", "modèles", "anthropic"],
"text": "LiteLLM config /etc/litellm/config.yaml expose: hermes-default (alias switchable), qwen3-8b (gpu-01:1234 GPU), qwen3-1.7b-system (gpu-01:1236 CPU), qwen3-1.7b-monitor (gpu-01:1237 CPU), claude-sonnet-4-6 (API Anthropic), claude-opus-4-7 (API Anthropic). ANTHROPIC_API_KEY dans l'environnement systemd via vault Ansible.",
"text": "LiteLLM config /etc/litellm/config.yaml expose: hermes-default (alias switchable), qwen3-8b (gpu-01:1234 GPU), claude-sonnet-4-6 (API Anthropic), claude-opus-4-7 (API Anthropic). Les alias CPU qwen3-1.7b-system/-monitor ont été retirés le 2026-06-20 avec leurs serveurs. ANTHROPIC_API_KEY dans l'environnement systemd via vault Ansible.",
},
{
"category": "hermes",
@ -77,7 +77,7 @@ KNOWLEDGE = [
{
"category": "gpu",
"tags": ["modèles", "qwen", "gemma", "performance"],
"text": "Modèle actif gpu-01: Qwen3-8B Q4_K_M (~60 tok/s génération, ~300 tok/s prefill, ROCm 7.x natif). Contexte 32768 tokens (VRAM: ~5GB modèle + ~4GB KV cache = ~9GB sur 12GB). Alias API: qwen3-8b. Instances CPU: qwen3-1.7b-system sur :1236 et qwen3-1.7b-monitor sur :1237 (~21 tok/s CPU). Ne pas utiliser Gemma 4: crash ROCm >800 tokens. Dimension embeddings: 3584.",
"text": "Modèle actif gpu-01: Qwen3-8B Q4_K_M (~60 tok/s génération, ~300 tok/s prefill, ROCm 7.x natif). Contexte 32768 tokens (VRAM: ~5GB modèle + ~4GB KV cache = ~9GB sur 12GB). Alias API: qwen3-8b. Instance embed: nomic-embed-text sur :1238 (CPU, dim 768) pour mémoire STT + RAG funk-docs. Les anciennes instances CPU qwen3-1.7b-system (:1236), qwen3-1.7b-monitor (:1237) et dev (:1235) ont été RETIRÉES le 2026-06-20 (inutilisées). Ne pas utiliser Gemma 4: crash ROCm >800 tokens.",
},
{
"category": "postgresql",