mirror of
https://github.com/Alkatrazz24/Funk-lab.git
synced 2026-07-08 11:14:43 +02:00
chore(gpu-01): retire les serveurs llama CPU system/monitor/dev (inutilisés) (#31)
Trois instances llama-server CPU manuelles (hors Ansible) tournaient sur gpu-01
sans servir : déjà orphelines de LiteLLM (alias absents de config.yaml, d'où le
bruit "Invalid model name"). Suppression complète :
gpu-01 (opérationnel, déjà fait) :
- systemctl disable --now + rm des units llama-server-{system,monitor,dev}
- ports firewall 1235/1236/1237 fermés
Repo :
- monitoring : scrape jobs (values.yaml) + alertes LlamaServer{System,Monitor}Down
(alerts-ai.yaml) retirés → plus de "target down"/alertes fantômes ; panneaux de
statut dashboard-infrastructure recyclés (system→llama-embed, monitor supprimé).
- docs admin/ + hermes-skills (souls funk-ai/brain, SKILL agent-delegation) mises à
jour : inventaire modèles, profils Hermès system/monitor sans backend (à repointer
sur qwen3-8b), litellm, ops, monitoring.
Les profils Hermès system/monitor existent toujours mais sans backend dédié.
Dashboards Grafana dashboard-ai (panneaux graphiques CPU) laissés tels quels
(cosmétique, séries vides, aucune alerte).
Co-authored-by: Claude Opus 4.8 <noreply@anthropic.com>
This commit is contained in:
parent
ef15ba25e0
commit
470c69881c
17 changed files with 90 additions and 147 deletions
|
|
@ -69,17 +69,22 @@ Compile llama.cpp (backend HIP/ROCm) et déploie le service **llama-server GPU**
|
|||
| `llama_embed_model_alias` | `nomic-embed-text` | — |
|
||||
| `llama_embed_n_gpu_layers` | `0` (CPU — évite la contention GPU avec `:1234`) | — |
|
||||
|
||||
## ⚠️ Gap IaC — instances CPU hors Ansible
|
||||
## Instances CPU retirées (2026-06-20)
|
||||
|
||||
Le rôle ne gère que l'instance **GPU** (`llama-server.service`). Les services suivants existent sur gpu-01 mais ont été créés **à la main** (non reproductibles par `make apply-gpu`) :
|
||||
Trois serveurs llama CPU **manuels** (hors Ansible) tournaient sur gpu-01 et ont été
|
||||
**supprimés** (stop + disable + `rm` des units + ports firewall fermés) car inutilisés —
|
||||
ils n'étaient même plus routés par LiteLLM (alias absents de `/etc/litellm/config.yaml`) :
|
||||
|
||||
| Service | Port | Modèle | Usage |
|
||||
| Service (supprimé) | Port | Modèle | Ex-usage |
|
||||
|---|---|---|---|
|
||||
| `llama-server-system.service` | 1236 | Qwen3-1.7B CPU | profil `system` |
|
||||
| `llama-server-monitor.service` | 1237 | Qwen3-1.7B CPU | profil `monitor` |
|
||||
| `llama-server-dev.service` | — | (non documenté, présent dans /etc/systemd/system) | ? |
|
||||
| `llama-server-dev.service` | 1235 | Qwen3-4B CPU | profil `dev` |
|
||||
|
||||
**À faire** : templatiser ces instances dans le rôle (liste d'instances avec port/modèle/threads) pour qu'une réinstallation de gpu-01 restaure les 3 serveurs.
|
||||
> Le rôle ne gère désormais **que** l'instance GPU (`llama-server.service`, `:1234`) et
|
||||
> l'embed CPU (`llama-embed.service`, `:1238`). Les profils Hermès `system`/`monitor`
|
||||
> n'ont plus de backend dédié — repointer leurs alias LiteLLM sur `qwen3-8b` (GPU) si on
|
||||
> veut les réactiver.
|
||||
|
||||
## Caveats
|
||||
|
||||
|
|
|
|||
Loading…
Add table
Add a link
Reference in a new issue