akadmin/Funk-lab
1
0
Fork 0
mirror of https://github.com/Alkatrazz24/Funk-lab.git synced 2026-07-08 13:54:41 +02:00
Code Issues Projects Releases Packages Wiki Activity Actions
Funk-lab/admin/install/README.md
ALI YESILKAYA af98b47018
docs(cluster): aligne la doc sur l'état réel + re-ingest RAG + fix ubatch embed (#44) 
* fix(rag): ubatch=2048 pour llama-embed + retry rag-ingest + nettoie defaults rag

L'instance llama-embed (:1238) tournait avec l'ubatch llama.cpp par défaut (512).
En mode --embeddings + pooling, toute l'entrée doit tenir dans un seul ubatch →
tout chunk > 512 tokens échouait en HTTP 500 « input too large to process.
increase the physical batch size ». ~46 chunks du RAG (CHUNK_MAX=2000 chars ≈
700 tokens) n'étaient pas indexés.

- llama_server : ajoute llama_embed_ubatch_size (2048 = ctx) + flags
  --batch-size/--ubatch-size dans le template llama-embed.service.
- rag-ingest : retry (5×, backoff) sur erreurs transitoires 5xx/réseau de l'embed.
- rag/defaults : aligne embed_url/embed_model sur nomic :1238 (étaient des vars
  mortes pointant encore qwen3-8b :1234 — trompeuses).

Résultat : ré-ingestion 436/436 chunks, 0 erreur.

Co-Authored-By: Claude Opus 4.8 <noreply@anthropic.com>

* docs(cluster): aligne la doc sur l'état réel (relevé 2026-06-21) + snapshot

Passe de vérification terrain (SSH s01/g01 + kubectl) pour corriger les écarts
doc↔réalité, et ajout d'un document de référence vérifié.

- admin/ops/etat-cluster.md (nouveau) : snapshot daté — machines, services+ports
  par hôte, workloads k8s, namespaces, IngressRoute, bases PG, modèles LiteLLM,
  RAG/Qdrant, + procédure pour régénérer le relevé.
- OS AlmaLinux 9.7 → 9.8 (s01/g01) ; précise k8s v1.33.1 (CLAUDE/README/install/talos).
- RAG funk-docs : retire le warning périmé « supprimée 2026-06-17 / à re-ingérer » →
  reconstruite (436 chunks, nomic-embed-text :1238 dim 768, CPU). Maj rag.md,
  incidents.md, stt.md.
- Namespace sacrifice (hors-repo, hors ArgoCD) + bases PG grafana/sacrifice +
  services ai via IngressRoute + registry in-cluster (CLAUDE.md, k9s.md).
- Services de résilience (llm-heartbeat, llama-watchdog/embed) et instances CPU
  manuelles :1236/:1237 (souvent éteintes) documentés.
- Journal progress/2026-06-21.md : section relevé + RAG.

Co-Authored-By: Claude Opus 4.8 <noreply@anthropic.com>

---------

Co-authored-by: Claude Opus 4.8 <noreply@anthropic.com>
2026-06-21 23:29:05 +02:00

1 KiB
Raw Blame History

Guides d'installation Funk

Guides d'installation complets, écrits après avoir réalisé chaque étape en réel. Chaque fichier couvre une machine ou une couche du projet de A à Z.

Guide Machine OS Rôle
storage-01.md storage-01 AlmaLinux 9.8 (ISO 9.7) Passerelle + RAID5 + services IA (Hermes, LiteLLM, Qdrant, PostgreSQL)
gpu-01.md gpu-01 AlmaLinux 9.8 (ISO 9.7) Inférence LLM (ROCm + llama-server, RX 6700XT)
kubernetes.md compute-01/02/03 Talos v1.13 (k8s v1.33.1) Cluster Kubernetes (MetalLB, Traefik, DNS wildcard)

Ordre d'installation recommandé

1. storage-01   ← indépendant, point d'entrée de tout le lab
2. gpu-01       ← nécessite storage-01 (DNS, NAT, NFS)
3. kubernetes   ← nécessite storage-01 (DHCP, DNS, NFS, NAT)

storage-01 est la pièce centrale : sans lui, rien d'autre ne fonctionne (pas de DHCP pour les nœuds Talos, pas de NAT pour sortir sur internet, pas de DNS lab.local, pas de NFS pour les modèles LLM).