mirror of
https://github.com/Alkatrazz24/Funk-lab.git
synced 2026-07-08 15:44:43 +02:00
chore(gpu-01): retire les serveurs llama CPU system/monitor/dev (inutilisés) (#31)
Trois instances llama-server CPU manuelles (hors Ansible) tournaient sur gpu-01
sans servir : déjà orphelines de LiteLLM (alias absents de config.yaml, d'où le
bruit "Invalid model name"). Suppression complète :
gpu-01 (opérationnel, déjà fait) :
- systemctl disable --now + rm des units llama-server-{system,monitor,dev}
- ports firewall 1235/1236/1237 fermés
Repo :
- monitoring : scrape jobs (values.yaml) + alertes LlamaServer{System,Monitor}Down
(alerts-ai.yaml) retirés → plus de "target down"/alertes fantômes ; panneaux de
statut dashboard-infrastructure recyclés (system→llama-embed, monitor supprimé).
- docs admin/ + hermes-skills (souls funk-ai/brain, SKILL agent-delegation) mises à
jour : inventaire modèles, profils Hermès system/monitor sans backend (à repointer
sur qwen3-8b), litellm, ops, monitoring.
Les profils Hermès system/monitor existent toujours mais sans backend dédié.
Dashboards Grafana dashboard-ai (panneaux graphiques CPU) laissés tels quels
(cosmétique, séries vides, aucune alerte).
Co-authored-by: Claude Opus 4.8 <noreply@anthropic.com>
This commit is contained in:
parent
ef15ba25e0
commit
470c69881c
17 changed files with 90 additions and 147 deletions
|
|
@ -14,10 +14,9 @@ Les données persistantes sont dans `/srv/data/hermes` (NVMe bind-mount depuis 2
|
|||
```
|
||||
Profils Hermes → LiteLLM Proxy (:4000) → llama-server / API Anthropic
|
||||
├── qwen3-8b → gpu-01:1234 (GPU RX 6700XT)
|
||||
├── qwen3-1.7b-system → gpu-01:1236 (CPU 14 threads)
|
||||
├── qwen3-1.7b-monitor → gpu-01:1237 (CPU 14 threads)
|
||||
├── claude-sonnet-4-6 → api.anthropic.com
|
||||
└── claude-opus-4-7 → api.anthropic.com
|
||||
# qwen3-1.7b-system/-monitor (CPU :1236/:1237) RETIRÉS le 2026-06-20
|
||||
|
||||
Depuis Hermes (TUI ou ask-agent) :
|
||||
funk-ai (principal) ──┐
|
||||
|
|
@ -34,11 +33,15 @@ Depuis Hermes (TUI ou ask-agent) :
|
|||
|---|---|---|---|
|
||||
| `funk-ai` ◆ | `funk-ai` | qwen3-8b (GPU, ~35 tok/s) | Principal — par défaut |
|
||||
| `brain` | `brain` | claude-sonnet-4-6 (API) | Analyse complexe — facturé |
|
||||
| `system` | `system` | qwen3-1.7b-system (CPU, ~21 tok/s) | Traitement texte rapide |
|
||||
| `monitor` | `monitor` | qwen3-1.7b-monitor (CPU, ~21 tok/s) | Évaluation état services |
|
||||
| `system` | `system` | ⚠️ backend retiré (ex-qwen3-1.7b CPU) | Traitement texte rapide — à repointer sur qwen3-8b |
|
||||
| `monitor` | `monitor` | ⚠️ backend retiré (ex-qwen3-1.7b CPU) | Évaluation état services — à repointer sur qwen3-8b |
|
||||
|
||||
`◆` = profil actif par défaut
|
||||
|
||||
> **2026-06-20** : les serveurs CPU `system` (:1236), `monitor` (:1237) et `dev` (:1235) ont été
|
||||
> supprimés (inutilisés). Les profils existent toujours mais leur alias LiteLLM n'a plus de
|
||||
> backend → repointer sur `qwen3-8b` (GPU) pour les réactiver. Cf. `admin/ia/llama_server.md`.
|
||||
|
||||
```bash
|
||||
# Lancer un profil (nouvelle session TUI)
|
||||
funk-ai # Qwen3-8B GPU
|
||||
|
|
@ -263,20 +266,19 @@ ask-agent (/usr/local/bin/ask-agent)
|
|||
│ POST http://127.0.0.1:4000/v1/chat/completions
|
||||
▼
|
||||
LiteLLM Proxy (:4000)
|
||||
├── ask-agent system → qwen3-1.7b-system (CPU :1236)
|
||||
├── ask-agent monitor → qwen3-1.7b-monitor (CPU :1237)
|
||||
├── ask-agent brain → claude-sonnet-4-6 (API Anthropic)
|
||||
└── ask-agent funk-ai → qwen3-8b (GPU :1234)
|
||||
# ask-agent system/monitor : backend CPU retiré le 2026-06-20 (repointer sur qwen3-8b)
|
||||
```
|
||||
|
||||
### Agents disponibles
|
||||
|
||||
| Agent | Modèle | Usage idéal |
|
||||
|---|---|---|
|
||||
| `system` | Qwen3-1.7B CPU (:1236) | Traitement texte : résumés, formatage, parsing, calculs Linux |
|
||||
| `monitor` | Qwen3-1.7B CPU (:1237) | Évaluation santé : logs systemd, métriques, état des services |
|
||||
| `brain` | Claude Sonnet 4.6 (API) | Raisonnement complexe, architecture — facturé |
|
||||
| `funk-ai` | Qwen3-8B GPU (:1234) | Tâches générales (agent principal lui-même) |
|
||||
| `system` ⚠️ | backend retiré 2026-06-20 | Ex-Qwen3-1.7B CPU — repointer l'alias sur qwen3-8b pour réactiver |
|
||||
| `monitor` ⚠️ | backend retiré 2026-06-20 | Ex-Qwen3-1.7B CPU — repointer l'alias sur qwen3-8b pour réactiver |
|
||||
|
||||
### system vs monitor
|
||||
|
||||
|
|
@ -383,7 +385,7 @@ sudo systemctl restart hermes-dashboard
|
|||
|
||||
Modèle GGUF potentiellement corrompu (signe d'erreur disque).
|
||||
```bash
|
||||
ssh g01 "sudo systemctl status llama-server-system"
|
||||
ssh g01 "sudo systemctl status llama-server"
|
||||
ssh g01 "md5sum /mnt/models/<chemin-gguf>"
|
||||
```
|
||||
|
||||
|
|
@ -392,7 +394,7 @@ ssh g01 "md5sum /mnt/models/<chemin-gguf>"
|
|||
LiteLLM ou llama-server ne répond pas.
|
||||
```bash
|
||||
ssh s01 "curl -s http://localhost:4000/health -H 'Authorization: Bearer lm-studio'"
|
||||
ssh g01 "systemctl status llama-server-system llama-server-monitor"
|
||||
ssh g01 "systemctl status llama-server llama-embed"
|
||||
```
|
||||
|
||||
### Le skill n'est pas chargé
|
||||
|
|
|
|||
Loading…
Add table
Add a link
Reference in a new issue