mirror of
https://github.com/Alkatrazz24/Funk-lab.git
synced 2026-07-08 05:24:43 +02:00
* fix(rag): ubatch=2048 pour llama-embed + retry rag-ingest + nettoie defaults rag L'instance llama-embed (:1238) tournait avec l'ubatch llama.cpp par défaut (512). En mode --embeddings + pooling, toute l'entrée doit tenir dans un seul ubatch → tout chunk > 512 tokens échouait en HTTP 500 « input too large to process. increase the physical batch size ». ~46 chunks du RAG (CHUNK_MAX=2000 chars ≈ 700 tokens) n'étaient pas indexés. - llama_server : ajoute llama_embed_ubatch_size (2048 = ctx) + flags --batch-size/--ubatch-size dans le template llama-embed.service. - rag-ingest : retry (5×, backoff) sur erreurs transitoires 5xx/réseau de l'embed. - rag/defaults : aligne embed_url/embed_model sur nomic :1238 (étaient des vars mortes pointant encore qwen3-8b :1234 — trompeuses). Résultat : ré-ingestion 436/436 chunks, 0 erreur. Co-Authored-By: Claude Opus 4.8 <noreply@anthropic.com> * docs(cluster): aligne la doc sur l'état réel (relevé 2026-06-21) + snapshot Passe de vérification terrain (SSH s01/g01 + kubectl) pour corriger les écarts doc↔réalité, et ajout d'un document de référence vérifié. - admin/ops/etat-cluster.md (nouveau) : snapshot daté — machines, services+ports par hôte, workloads k8s, namespaces, IngressRoute, bases PG, modèles LiteLLM, RAG/Qdrant, + procédure pour régénérer le relevé. - OS AlmaLinux 9.7 → 9.8 (s01/g01) ; précise k8s v1.33.1 (CLAUDE/README/install/talos). - RAG funk-docs : retire le warning périmé « supprimée 2026-06-17 / à re-ingérer » → reconstruite (436 chunks, nomic-embed-text :1238 dim 768, CPU). Maj rag.md, incidents.md, stt.md. - Namespace sacrifice (hors-repo, hors ArgoCD) + bases PG grafana/sacrifice + services ai via IngressRoute + registry in-cluster (CLAUDE.md, k9s.md). - Services de résilience (llm-heartbeat, llama-watchdog/embed) et instances CPU manuelles :1236/:1237 (souvent éteintes) documentés. - Journal progress/2026-06-21.md : section relevé + RAG. Co-Authored-By: Claude Opus 4.8 <noreply@anthropic.com> * feat(stt): transcription partielle live + veille/réveil vocal (« Asa » / « Asa stop ») Deux fonctionnalités sur l'assistant vocal Asa (client 0.13.0 → 0.14.0). Transcription partielle live : - en éveil, le buffer en cours est re-transcrit périodiquement (partial_interval_sec) et poussé au HUD (event `partial`) → le texte se forme en direct dans une bulle dédiée, remplacée par la bulle « user » finale. - auto-activée seulement avec l'ASR onnx (Parakeet, rapide CPU) ; bornée min/max ; forçable via [voice].partial_transcription. Veille / réveil vocal (machine à états asleep ↔ éveil) : - veille : Asa transcrit chaque énoncé UNIQUEMENT pour repérer le wake word, ne répond à rien d'autre (HUD : portrait atténué, « SOMMEIL »). - « Asa » (mot entier, alias ASR tolérés) réveille ; « Asa, <question> » exécute la question. - « Asa stop » (ou stop/dors/au revoir… = sleep_words) remet en veille ; timeout aussi. - wake word par défaut `asa` (était `hermes`) ; détection durcie en mot entier (plus de sous-chaîne — « asa » matchait « casa », « phrase »…). Validé : tests unitaires (wake/sleep/alias) + Playwright (rendu asleep, bulle partielle mise à jour en place puis remplacée, nettoyage au changement d'état). Doc admin/ia/stt.md + journal. Co-Authored-By: Claude Opus 4.8 <noreply@anthropic.com> --------- Co-authored-by: Claude Opus 4.8 <noreply@anthropic.com> |
||
|---|---|---|
| .. | ||
| client | ||
| server | ||
| README.md | ||
STT — Assistant vocal "Jarvis" de Funk
Assistant vocal type Jarvis pour le homelab Funk, en architecture client-serveur :
server/— STT-server : orchestrateur AI dans le cluster k8s. Reçoit les requêtes des clients et route l'inférence vers LiteLLM (Qwen3 / Claude). Mémoire centralisée (futur).client/— commandesttinstallable sur le poste : capture micro, STT (Whisper), TTS (Piper), HUD graphique. Envoie le texte au serveur (URL paramétrable).
📐 Conception complète :
admin/ia/stt.md.
LAN / *.lab.local
┌─ POSTE ──────────┐ ┌─ CLUSTER k8s (ns ai) ──────────────┐
│ client `stt` │ HTTP │ STT-server (Deployment) │
│ • micro + Whisper│ ─────▶ │ POST /v1/ask → LiteLLM │
│ • Piper (TTS) │ ◀───── │ (→ s01 192.168.10.1:4000) │
│ • HUD web │ reply │ Ingress: stt.lab.local │
└───────────────────┘ └──────────────┬──────────────────────┘
▼
LiteLLM :4000 (s01)
→ Qwen3 (g01) / Claude
Client — installation (poste)
pipx install "git+ssh://git@github.com/Alkatrazz24/Funk-lab.git@<branche>#subdirectory=stt/client"
stt --setup # génère ~/.config/stt/stt.toml (dont [server] url)
stt --text # chat texte simple (sans micro ni HUD) — idéal pour tester
stt # voix + HUD ; dis "Ok Hermès …"
stt --model claude # choisir le modèle : hermes (défaut) | claude | qwen | opus
stt --install-service # auto-start au login (systemd --user, kiosk « écran Jarvis »)
stt --install-desktop # ajoute STT au menu des applis → fenêtre dédiée (type Discord)
stt --window app # ouvre le HUD en fenêtre app (sinon : kiosk plein écran)
stt --update # met à jour depuis git (plus de désinstall/réinstall manuel)
En mode texte : commandes /model <nom>, /models, /quit.
Prérequis voix : micro, Piper + voix dans ~/.local/share/piper/, aplay (alsa-utils).
Serveur — déploiement (cluster)
- Image : le workflow
.github/workflows/build-stt-server.yml(push touchantstt/server/) build l'image taguéesha-<commit>et, surmain, met à jour le manifest avec ce tag (commitci(stt): image → …). Plus de:latestni derollout restartmanuel. - ArgoCD :
k8s/apps-of-apps/apps/stt.yaml→ déploiek8s/apps/stt/depuismain. Le bump du tag par la CI suffit à déclencher un nouveau pod (déploiement déterministe). - Le serveur joint LiteLLM (s01, hors cluster) en IP directe
192.168.10.1:4000(même pattern qu'open-webui — pas de Service/Endpoints intermédiaire). - Image privée : le Deployment référence un
imagePullSecretghcr-pull. À créer une fois dans le nsai(même pratique queghostfolio-secret, non versionné) :kubectl create secret docker-registry ghcr-pull \ --docker-server=ghcr.io \ --docker-username=Alkatrazz24 \ --docker-password=<PAT_ghcr_read:packages> \ -n ai
Structure
stt/
├── client/ # commande `stt` (pipx) — voix + HUD
│ ├── pyproject.toml
│ ├── config/ # stt.example.toml + thèmes/avatars/voix
│ └── stt/ # cli, config, voice/, api.py (→ serveur), ui/ (HUD), hud/
└── server/ # STT-server (conteneur) — API + orchestration AI
├── pyproject.toml
├── Dockerfile
├── memory/ # mémoire distillée GitHub (futur, server-side)
└── stt_server/ # app.py (FastAPI), brain.py (→ LiteLLM), config.py