akadmin/Funk-lab
1
0
Fork 0
mirror of https://github.com/Alkatrazz24/Funk-lab.git synced 2026-07-09 08:44:43 +02:00
Code Issues Projects Releases Packages Wiki Activity Actions
Funk-lab/ansible/roles
History
alkatrazz 229c3aad44 fix(llama_server): embed nomic sur CPU — supprime la contention GPU (docs=0) 
Le heartbeat embed (#28) gardait le slot :1238 chargé mais docs=0 revenait :
latence bimodale 16ms / 9-12s. Cause = contention GPU, pas cold-start. nomic
(:1238, --n-gpu-layers 99) partageait la RX 6700XT avec le chat qwen3-8b (:1234) ;
ROCm sérialise → un embed lancé pendant une génération chat attend ~10s → dépasse
le budget recall 4s du STT-server → docs=0 intermittent.

- llama_embed_n_gpu_layers: 99 → 0 (CPU). nomic = 137M → ~100ms déterministe,
  découplé du slot chat. Le template lit déjà la variable.
- heartbeat embed conservé comme sonde de vivacité (commentaire ajusté).
- incidents-llm-gpu.md : section dédiée + README rôle mis à jour.

Co-Authored-By: Claude Opus 4.8 <noreply@anthropic.com>
2026-06-20 12:33:37 +02:00
..
alertmanager_webhook docs(ansible): README par rôle (19) + gaps IaC découverts à l'audit 2026-06-10 15:21:24 +02:00
common docs(ansible): README par rôle (19) + gaps IaC découverts à l'audit 2026-06-10 15:21:24 +02:00
dnsmasq docs(ansible): README par rôle (19) + gaps IaC découverts à l'audit 2026-06-10 15:21:24 +02:00
gateway docs(ansible): README par rôle (19) + gaps IaC découverts à l'audit 2026-06-10 15:21:24 +02:00
hermes_agent docs(ansible): README par rôle (19) + gaps IaC découverts à l'audit 2026-06-10 15:21:24 +02:00
hermes_auto_improve docs(ansible): README par rôle (19) + gaps IaC découverts à l'audit 2026-06-10 15:21:24 +02:00
hermes_user docs(ansible): README par rôle (19) + gaps IaC découverts à l'audit 2026-06-10 15:21:24 +02:00
litellm feat: anti-502 LLM — heartbeat (litellm) + watchdog auto-réparation (llama_server) (#23) 2026-06-19 20:52:29 +02:00
llama_server fix(llama_server): embed nomic sur CPU — supprime la contention GPU (docs=0) 2026-06-20 12:33:37 +02:00
lm_studio docs(ansible): README par rôle (19) + gaps IaC découverts à l'audit 2026-06-10 15:21:24 +02:00
minio docs(ansible): README par rôle (19) + gaps IaC découverts à l'audit 2026-06-10 15:21:24 +02:00
nfs_client docs(ansible): README par rôle (19) + gaps IaC découverts à l'audit 2026-06-10 15:21:24 +02:00
nfs_server docs(ansible): README par rôle (19) + gaps IaC découverts à l'audit 2026-06-10 15:21:24 +02:00
node_exporter docs(ansible): README par rôle (19) + gaps IaC découverts à l'audit 2026-06-10 15:21:24 +02:00
postfix_relay docs(ansible): README par rôle (19) + gaps IaC découverts à l'audit 2026-06-10 15:21:24 +02:00
postgresql feat(ghostfolio): suivi de portefeuille sur k8s (PG s01 + Redis) 2026-06-15 14:04:19 +02:00
qdrant docs(ansible): README par rôle (19) + gaps IaC découverts à l'audit 2026-06-10 15:21:24 +02:00
rag feat(rag): embedder dédié nomic-embed-text (768) au lieu de qwen3-8b (#25) 2026-06-19 21:52:52 +02:00
rocm docs(ansible): README par rôle (19) + gaps IaC découverts à l'audit 2026-06-10 15:21:24 +02:00