fix(gpu): débloque make apply-gpu — repo amdgpu rhel9.7 + pin commit llama.cpp

Le `dnf upgrade` du rôle common avait bumpé gpu-01 en AlmaLinux 9.8, mais
repo.radeon.com ne publie pas latest/rhel/9.8 (ni 9.5) — seulement 9.4/9.6/9.7.
`make apply-gpu` échouait alors dès `common` sur « Cannot download repomd.xml »
pour le repo amdgpu.

- rocm_rhel_version 9.4 → 9.7 (dernière mineure publiée par radeon) + piège
  documenté dans le README rocm (avec workaround live /etc/dnf/vars/amdgpudistro).
- Pin llama_server_commit au commit construit sur g01 : sans pin le rôle clonait
  HEAD → rebuild (~15 min) + restart GPU non déterministe à chaque apply.
- Réconciliation du drop-in llama-embed (ubatch 2048) dans l'unit rendu par le
  rôle (apply ciblé) ; drop-in temporaire supprimé. RAG validé (rag-query OK).
- Doc : etat-cluster + journal 2026-06-22 mis à jour.

Co-Authored-By: Claude Opus 4.8 <noreply@anthropic.com>
This commit is contained in:
alkatrazz 2026-06-22 17:14:01 +02:00
parent 1e01caf634
commit 2dacf03f8d
6 changed files with 57 additions and 7 deletions

View file

@ -4,7 +4,10 @@ Compile llama.cpp (backend HIP/ROCm) et déploie le service **llama-server GPU**
## Ce que fait le rôle
- Clone + build llama.cpp (cmake HIP, `gfx1030`) — build seulement si le binaire est absent
- Clone + build llama.cpp (cmake HIP, `gfx1030`) — build seulement si le binaire est absent.
Le commit est **pinné** (`llama_server_commit`) : sans pin, le clone tirait `HEAD` et un
`make apply-gpu` pouvait déclencher un rebuild (~15 min) + restart GPU non déterministe. Pour
monter de version : bumper le SHA dans `defaults/main.yml`, puis l'apply rebuild de façon voulue.
- Service systemd `llama-server` : modèle GGUF depuis `/mnt/models` (NFS), `:1234`
- Embeddings activés (`--embeddings`, pooling mean)
- Ouvre le port dans le firewall, désactive l'ancien service lm-studio

View file

@ -2,6 +2,11 @@
llama_server_port: 1234
llama_server_host: "0.0.0.0"
llama_amdgpu_targets: "gfx1030"
# Commit llama.cpp pinné. Sans pin, le rôle clonait HEAD → chaque `make apply-gpu` pouvait se
# déclarer « changed » et déclencher un rebuild complet (~15 min) + restart du llama-server GPU,
# de façon non déterministe. Pinné = build reproductible et apply idempotent. Pour monter de
# version : bumper ce SHA puis relancer un apply (le rebuild sera alors voulu et explicite).
llama_server_commit: "84de01a1f1c847292b8d90a9c0bff6619f2919be"
rocm_path: "/opt/rocm"
hsa_override_gfx_version: "10.3.0"