akadmin/Funk-lab
1
0
Fork 0
mirror of https://github.com/Alkatrazz24/Funk-lab.git synced 2026-07-08 22:34:41 +02:00
Code Issues Projects Releases Packages Wiki Activity Actions
Funk-lab/stt
History
alkatrazz 917ffcfc32 fix(stt-server): retry brain + timeout par tentative + log timing effectif 
Suite au déploiement 0.2.0, deux points observés en pilotant l'app en direct :

- Le log de timing (`ask … recall/gen/total`) n'émettait pas : uvicorn ne
  configure que ses propres loggers → on attache un handler INFO sur `stt_server`.
- La chaîne LiteLLM→llama-server (ROCm gfx1031) se fige par à-coups (~1-2 min,
  502 pour tous les appels, cf. incidents-llm-gpu.md). Résilience côté STT :
  brain tente 2× (fermeture du client httpx entre les essais → connexion neuve si
  le pool est vicié) et le timeout passe à 30s PAR tentative (≤ ~2× au pire).
  Un blip transitoire devient une requête récupérée au lieu d'un 502.

bump serveur 0.2.0 → 0.2.1

Co-Authored-By: Claude Opus 4.8 <noreply@anthropic.com>
2026-06-19 15:46:03 +02:00
..
client feat(stt): entrée texte HUD + finitions client + doc incident LLM/GPU (#19) 2026-06-19 14:56:36 +02:00
server fix(stt-server): retry brain + timeout par tentative + log timing effectif 2026-06-19 15:46:03 +02:00
README.md feat(stt): lancement & cycle de vie du client — auto-start, app de bureau, auto-update (#18) 2026-06-19 00:05:02 +02:00

README.md

STT — Assistant vocal "Jarvis" de Funk

Assistant vocal type Jarvis pour le homelab Funk, en architecture client-serveur :

  • server/ — STT-server : orchestrateur AI dans le cluster k8s. Reçoit les requêtes des clients et route l'inférence vers LiteLLM (Qwen3 / Claude). Mémoire centralisée (futur).
  • client/ — commande stt installable sur le poste : capture micro, STT (Whisper), TTS (Piper), HUD graphique. Envoie le texte au serveur (URL paramétrable).

📐 Conception complète : admin/ia/stt.md.

                 LAN / *.lab.local
   ┌─ POSTE ──────────┐        ┌─ CLUSTER k8s (ns ai) ──────────────┐
   │  client `stt`     │  HTTP  │  STT-server (Deployment)            │
   │  • micro + Whisper│ ─────▶ │  POST /v1/ask → LiteLLM             │
   │  • Piper (TTS)    │ ◀───── │       (→ s01 192.168.10.1:4000)      │
   │  • HUD web        │  reply  │  Ingress: stt.lab.local             │
   └───────────────────┘        └──────────────┬──────────────────────┘
                                                ▼
                                       LiteLLM :4000 (s01)
                                       → Qwen3 (g01) / Claude

Client — installation (poste)

pipx install "git+ssh://git@github.com/Alkatrazz24/Funk-lab.git@<branche>#subdirectory=stt/client"
stt --setup            # génère ~/.config/stt/stt.toml (dont [server] url)
stt --text             # chat texte simple (sans micro ni HUD) — idéal pour tester
stt                    # voix + HUD ; dis "Ok Hermès …"
stt --model claude     # choisir le modèle : hermes (défaut) | claude | qwen | opus
stt --install-service  # auto-start au login (systemd --user, kiosk « écran Jarvis »)
stt --install-desktop  # ajoute STT au menu des applis → fenêtre dédiée (type Discord)
stt --window app       # ouvre le HUD en fenêtre app (sinon : kiosk plein écran)
stt --update           # met à jour depuis git (plus de désinstall/réinstall manuel)

En mode texte : commandes /model <nom>, /models, /quit. Prérequis voix : micro, Piper + voix dans ~/.local/share/piper/, aplay (alsa-utils).

Serveur — déploiement (cluster)

  1. Image : le workflow .github/workflows/build-stt-server.yml (push touchant stt/server/) build l'image taguée sha-<commit> et, sur main, met à jour le manifest avec ce tag (commit ci(stt): image → …). Plus de :latest ni de rollout restart manuel.
  2. ArgoCD : k8s/apps-of-apps/apps/stt.yaml → déploie k8s/apps/stt/ depuis main. Le bump du tag par la CI suffit à déclencher un nouveau pod (déploiement déterministe).
  3. Le serveur joint LiteLLM (s01, hors cluster) en IP directe 192.168.10.1:4000 (même pattern qu'open-webui — pas de Service/Endpoints intermédiaire).
  4. Image privée : le Deployment référence un imagePullSecret ghcr-pull. À créer une fois dans le ns ai (même pratique que ghostfolio-secret, non versionné) : 
    kubectl create secret docker-registry ghcr-pull \
  --docker-server=ghcr.io \
  --docker-username=Alkatrazz24 \
  --docker-password=<PAT_ghcr_read:packages> \
  -n ai

Structure

stt/
├── client/          # commande `stt` (pipx) — voix + HUD
│   ├── pyproject.toml
│   ├── config/      # stt.example.toml + thèmes/avatars/voix
│   └── stt/         # cli, config, voice/, api.py (→ serveur), ui/ (HUD), hud/
└── server/          # STT-server (conteneur) — API + orchestration AI
    ├── pyproject.toml
    ├── Dockerfile
    ├── memory/      # mémoire distillée GitHub (futur, server-side)
    └── stt_server/  # app.py (FastAPI), brain.py (→ LiteLLM), config.py