mirror of
https://github.com/Alkatrazz24/Funk-lab.git
synced 2026-07-08 06:24:42 +02:00
chore(gpu-01): retire les serveurs llama CPU system/monitor/dev (inutilisés) (#31)
Trois instances llama-server CPU manuelles (hors Ansible) tournaient sur gpu-01
sans servir : déjà orphelines de LiteLLM (alias absents de config.yaml, d'où le
bruit "Invalid model name"). Suppression complète :
gpu-01 (opérationnel, déjà fait) :
- systemctl disable --now + rm des units llama-server-{system,monitor,dev}
- ports firewall 1235/1236/1237 fermés
Repo :
- monitoring : scrape jobs (values.yaml) + alertes LlamaServer{System,Monitor}Down
(alerts-ai.yaml) retirés → plus de "target down"/alertes fantômes ; panneaux de
statut dashboard-infrastructure recyclés (system→llama-embed, monitor supprimé).
- docs admin/ + hermes-skills (souls funk-ai/brain, SKILL agent-delegation) mises à
jour : inventaire modèles, profils Hermès system/monitor sans backend (à repointer
sur qwen3-8b), litellm, ops, monitoring.
Les profils Hermès system/monitor existent toujours mais sans backend dédié.
Dashboards Grafana dashboard-ai (panneaux graphiques CPU) laissés tels quels
(cosmétique, séries vides, aucune alerte).
Co-authored-by: Claude Opus 4.8 <noreply@anthropic.com>
This commit is contained in:
parent
ef15ba25e0
commit
470c69881c
17 changed files with 90 additions and 147 deletions
|
|
@ -38,7 +38,7 @@ Chaque rôle a un `README.md` détaillé dans `ansible/roles/<nom>/` (variables,
|
|||
| `common` | `common` | Paquets de base, sécurité, NTP |
|
||||
| `rocm` | `rocm` | Stack GPU AMD (ROCm 7.x, `HSA_OVERRIDE_GFX_VERSION=10.3.0`) |
|
||||
| `nfs_client` | `nfs_client` | Montage `/mnt/models` depuis storage-01 |
|
||||
| `llama_server` | `llama_server` | llama-server **GPU `:1234` uniquement** — ⚠️ les instances CPU `:1236`/`:1237` (system/monitor) sont des services créés à la main sur gpu-01, hors IaC |
|
||||
| `llama_server` | `llama_server` | llama-server **GPU `:1234`** + embed **CPU `:1238`** (nomic). Les ex-instances CPU `:1235`/`:1236`/`:1237` (dev/system/monitor) ont été supprimées le 2026-06-20 |
|
||||
| `node_exporter` | `node_exporter` | Métriques Prometheus (+ rocm power) |
|
||||
|
||||
> ⚠️ Le rôle `lm_studio` existe encore dans `ansible/roles/` mais n'est référencé par **aucun** playbook (remplacé par `llama_server` en mai 2026). Candidat à la suppression.
|
||||
|
|
|
|||
|
|
@ -74,7 +74,7 @@ Ordre de démarrage : storage-01 déjà up → gpu-01 (WOL) → compute-01/02/03
|
|||
Vérifie dans l'ordre :
|
||||
- Services storage-01 : postgresql-16, qdrant, litellm, hermes-agent
|
||||
- Santé : PostgreSQL (connexion réelle), Qdrant (collections), LiteLLM (modèles), Hermes, NFS export
|
||||
- gpu-01 : ping, NFS /mnt/models, llama-server GPU (:1234), embeddings, llama-server CPU (:1236/:1237)
|
||||
- gpu-01 : ping, NFS /mnt/models, llama-server GPU (:1234), embed nomic CPU (:1238)
|
||||
- Cluster k8s : ping compute-01/02/03, kubectl get nodes Ready
|
||||
|
||||
### `funk-start [--k8s]`
|
||||
|
|
|
|||
|
|
@ -36,8 +36,8 @@ sudo systemctl list-units --type=service --state=running
|
|||
| gpu-01 | `chronyd` | NTP |
|
||||
| gpu-01 | `sshd` | SSH |
|
||||
| gpu-01 | `llama-server` | Inférence GPU — Qwen3-8B via ROCm 7.x (port 1234) |
|
||||
| gpu-01 | `llama-server-system` | Inférence CPU — Qwen3-1.7B (port 1236, 14 threads) |
|
||||
| gpu-01 | `llama-server-monitor` | Inférence CPU — Qwen3-1.7B (port 1237, 14 threads) |
|
||||
| gpu-01 | `llama-embed` | Embeddings nomic-embed-text CPU (port 1238, dim 768) |
|
||||
| gpu-01 | `llama-embed-heartbeat` | Sonde de vivacité du slot embed :1238 |
|
||||
|
||||
---
|
||||
|
||||
|
|
|
|||
Loading…
Add table
Add a link
Reference in a new issue