mirror of https://github.com/Alkatrazz24/Funk-lab.git synced 2026-07-08 19:24:42 +02:00

History

ALI YESILKAYA 9fef555cc3 feat(stt): embeddings dédiés nomic-embed-text sur gpu-01 (:1238) + migration auto (#12 ) * feat(stt): mémoire long-terme sémantique via Qdrant (5b) Serveur : longterm.py — collection Qdrant stt-memory (embeddings Qwen3 gpu-01, dim auto, Cosine), recall top-k injecté au prompt, remember des tours user. Tout dégrade proprement si Qdrant/embeddings injoignables (la mémoire court-terme tient). Env STT_MEMORY_LONGTERM, STT_QDRANT_URL, STT_EMBED_URL, STT_MEMORY_TOPK. Testé en process : dégradation OK (Qdrant down → mem=0, pas de crash, court-terme tient). Qdrant réparé le 17/06 (5c). Recherche sémantique réelle à valider sur cluster. Co-Authored-By: Claude Opus 4.8 <noreply@anthropic.com> Claude-Session: https://claude.ai/code/session_013FmcxGsyXZXogiAHQLjnZT * feat(stt): endpoint /v1/memory/health + upsert Qdrant synchrone - /v1/memory/health sonde activement embeddings + Qdrant + collection et expose les erreurs (recall/remember dégradent en silence → indébogables). Permet de diagnostiquer la mémoire long-terme sans kubectl exec. - remember() : upsert avec ?wait=true → le souvenir est immédiatement cherchable (sans wait, Qdrant met l'écriture en file → un recall cross-session immédiat pouvait le rater). Co-Authored-By: Claude Opus 4.8 <noreply@anthropic.com> Claude-Session: https://claude.ai/code/session_013FmcxGsyXZXogiAHQLjnZT * docs(stt): 5b mémoire long-terme validée en prod + backlog nomic-embed-text - Rappel cross-session confirmé (« Felix » retrouvé dans une nouvelle session), points_count vérifié via /v1/memory/health. - Note du fix upsert ?wait=true et de l'endpoint de diagnostic. - Roadmap : 5d (nomic-embed-text dim 768) en backlog qualité ; états haut/bas du doc mis à jour (déployé + validé sur cible). Co-Authored-By: Claude Opus 4.8 <noreply@anthropic.com> Claude-Session: https://claude.ai/code/session_013FmcxGsyXZXogiAHQLjnZT * feat(stt): embeddings dédiés nomic-embed-text sur gpu-01 (:1238) + migration auto Remplace Qwen3 (chat réutilisé, dim 4096, peu discriminant) par un modèle d'embedding spécialisé nomic-embed-text (dim 768) pour la mémoire long-terme. Ansible (rôle llama_server) : - nouvelle instance optionnelle `llama-embed` (llama_embed_enabled) servant un modèle d'embedding dédié sur :1238, GPU ; télécharge le GGUF si absent. - activée sur gpu-01 (host_vars) : nomic-embed-text-v1.5 f16. STT-server : - STT_EMBED_URL → :1238, STT_EMBED_MODEL → nomic-embed-text (deployment + config). - _ensure_collection détecte le changement de dimension (4096→768) et recrée automatiquement la collection stt-memory (anciens vecteurs incomparables) — pas de drop manuel. Docs : llama_server README, rag.md, stt.md (5d ✅), CLAUDE.md. Co-Authored-By: Claude Opus 4.8 <noreply@anthropic.com> Claude-Session: https://claude.ai/code/session_013FmcxGsyXZXogiAHQLjnZT --------- Co-authored-by: Claude <noreply@anthropic.com>		2026-06-17 21:54:41 +02:00
..
client	feat(stt): mémoire court-terme de session côté serveur (5a) (#8 )	2026-06-17 16:15:57 +02:00
server	feat(stt): embeddings dédiés nomic-embed-text sur gpu-01 (:1238) + migration auto (#12 )	2026-06-17 21:54:41 +02:00
README.md	ci(stt): images taguées par SHA + bump auto du manifest (fin du :latest) (#9 )	2026-06-17 16:39:14 +02:00

README.md

STT — Assistant vocal "Jarvis" de Funk

Assistant vocal type Jarvis pour le homelab Funk, en architecture client-serveur :

server/ — STT-server : orchestrateur AI dans le cluster k8s. Reçoit les requêtes des clients et route l'inférence vers LiteLLM (Qwen3 / Claude). Mémoire centralisée (futur).
client/ — commande stt installable sur le poste : capture micro, STT (Whisper), TTS (Piper), HUD graphique. Envoie le texte au serveur (URL paramétrable).

📐 Conception complète : admin/ia/stt.md.

                 LAN / *.lab.local
   ┌─ POSTE ──────────┐        ┌─ CLUSTER k8s (ns ai) ──────────────┐
   │  client `stt`     │  HTTP  │  STT-server (Deployment)            │
   │  • micro + Whisper│ ─────▶ │  POST /v1/ask → LiteLLM             │
   │  • Piper (TTS)    │ ◀───── │       (→ s01 192.168.10.1:4000)      │
   │  • HUD web        │  reply  │  Ingress: stt.lab.local             │
   └───────────────────┘        └──────────────┬──────────────────────┘
                                                ▼
                                       LiteLLM :4000 (s01)
                                       → Qwen3 (g01) / Claude

Client — installation (poste)

pipx install "git+ssh://git@github.com/Alkatrazz24/Funk-lab.git@<branche>#subdirectory=stt/client"
stt --setup            # génère ~/.config/stt/stt.toml (dont [server] url)
stt --text             # chat texte simple (sans micro ni HUD) — idéal pour tester
stt                    # voix + HUD ; dis "Ok Hermès …"
stt --model claude     # choisir le modèle : hermes (défaut) | claude | qwen | opus

En mode texte : commandes /model <nom>, /models, /quit. Prérequis voix : micro, Piper + voix dans ~/.local/share/piper/, aplay (alsa-utils).

Serveur — déploiement (cluster)

Image : le workflow .github/workflows/build-stt-server.yml (push touchant stt/server/) build l'image taguée sha-<commit> et, sur main, met à jour le manifest avec ce tag (commit ci(stt): image → …). Plus de :latest ni de rollout restart manuel.
ArgoCD : k8s/apps-of-apps/apps/stt.yaml → déploie k8s/apps/stt/ depuis main. Le bump du tag par la CI suffit à déclencher un nouveau pod (déploiement déterministe).
Le serveur joint LiteLLM (s01, hors cluster) en IP directe 192.168.10.1:4000 (même pattern qu'open-webui — pas de Service/Endpoints intermédiaire).

Image privée : le Deployment référence un imagePullSecret ghcr-pull. À créer une fois dans le ns ai (même pratique que ghostfolio-secret, non versionné) :

kubectl create secret docker-registry ghcr-pull \
  --docker-server=ghcr.io \
  --docker-username=Alkatrazz24 \
  --docker-password=<PAT_ghcr_read:packages> \
  -n ai

Structure

stt/
├── client/          # commande `stt` (pipx) — voix + HUD
│   ├── pyproject.toml
│   ├── config/      # stt.example.toml + thèmes/avatars/voix
│   └── stt/         # cli, config, voice/, api.py (→ serveur), ui/ (HUD), hud/
└── server/          # STT-server (conteneur) — API + orchestration AI
    ├── pyproject.toml
    ├── Dockerfile
    ├── memory/      # mémoire distillée GitHub (futur, server-side)
    └── stt_server/  # app.py (FastAPI), brain.py (→ LiteLLM), config.py