akadmin/Funk-lab
1
0
Fork 0
mirror of https://github.com/Alkatrazz24/Funk-lab.git synced 2026-07-08 07:24:42 +02:00
Code Issues Projects Releases Packages Wiki Activity Actions
Funk-lab/stt/server
History
ALI YESILKAYA 47936b0088
fix(stt): joindre LiteLLM en IP directe (192.168.10.1:4000) (#6) 
L'indirection litellm-ext (Service sans sélecteur + Endpoints manuel) ne routait pas
('All connection attempts failed'). open-webui joint LiteLLM en IP directe — on copie
ce pattern éprouvé et on supprime litellm-external.yaml.


Claude-Session: https://claude.ai/code/session_013FmcxGsyXZXogiAHQLjnZT

Co-authored-by: Claude <noreply@anthropic.com>
2026-06-17 13:19:51 +02:00
..
memory feat(stt): assistant vocal Jarvis — client pipx + STT-server in-cluster (#4) 2026-06-17 12:08:58 +02:00
stt_server fix(stt): joindre LiteLLM en IP directe (192.168.10.1:4000) (#6) 2026-06-17 13:19:51 +02:00
Dockerfile feat(stt): assistant vocal Jarvis — client pipx + STT-server in-cluster (#4) 2026-06-17 12:08:58 +02:00
pyproject.toml feat(stt): assistant vocal Jarvis — client pipx + STT-server in-cluster (#4) 2026-06-17 12:08:58 +02:00
README.md fix(stt): joindre LiteLLM en IP directe (192.168.10.1:4000) (#6) 2026-06-17 13:19:51 +02:00

README.md

STT-server — orchestrateur AI (in-cluster)

API FastAPI déployée dans le cluster k8s (namespace ai). Reçoit les requêtes des clients STT et route l'inférence vers LiteLLM (s01) → Qwen3 (g01) / Claude.

API

Méthode Route Corps Réponse
GET /healthz — {status, version}
POST /v1/ask {text} {reply}

Configuration (variables d'env)

Var Défaut Rôle
STT_LITELLM_URL http://192.168.10.1:4000/v1/chat/completions endpoint LiteLLM (IP directe s01, cf. open-webui)
STT_LITELLM_KEY lm-studio clé LiteLLM (valeur exacte attendue)
STT_MODEL hermes-default alias LiteLLM (bascule Qwen/Claude via hermes-switch)
STT_SYSTEM_PROMPT prompt vocal FR concis persona
STT_MAX_TOKENS / STT_TEMPERATURE 200 / 0.7 génération

Dev local

cd stt/server
pip install -e .
STT_LITELLM_URL=http://192.168.1.200:4000/v1/chat/completions stt-server   # :8000
curl -s localhost:8000/healthz
curl -s localhost:8000/v1/ask -H 'content-type: application/json' -d '{"text":"bonjour"}'

Déploiement

  • Image construite/poussée par .github/workflows/build-stt-server.yml → ghcr.io/alkatrazz24/funk-stt-server.
  • Manifests : k8s/apps/stt/ ; Application ArgoCD : k8s/apps-of-apps/apps/stt.yaml (depuis main).
  • Accès LiteLLM (hors cluster) : IP directe 192.168.10.1:4000 (même pattern qu'open-webui).

À venir

  • Intégration des outils Hermes (« agir sur Funk ») via le gateway :8080 — nécessite de spécifier son API. Aujourd'hui : inférence/chat seulement (via LiteLLM).
  • Mémoire centralisée : Qdrant (s01) + distillation versionnée (server/memory/).
  • Sessions multi-clients + historique.