mirror of
https://github.com/Alkatrazz24/Funk-lab.git
synced 2026-07-10 16:04:42 +02:00
refactor(stt): pivot client-serveur — STT-server in-cluster + client pipx
Sépare STT en deux : - stt/client/ : commande `stt` (pipx), voix locale (Whisper/Piper) + HUD ; envoie le texte au serveur via api.py (ServerClient → POST /v1/ask). URL serveur paramétrable, pas de cerveau local (suppression du routeur 3 modes). - stt/server/ : STT-server FastAPI (conteneur), /healthz + /v1/ask → LiteLLM (Qwen3/Claude). Déploiement cluster : - k8s/apps/stt/ : Deployment, Service, IngressRoute (stt.lab.local), litellm-ext (Service + Endpoints → 192.168.10.1:4000 pour joindre LiteLLM hors cluster) - k8s/apps-of-apps/apps/stt.yaml : Application ArgoCD (depuis main) - .github/workflows/build-stt-server.yml : build/push image → ghcr.io/alkatrazz24/funk-stt-server Inférence/chat seulement (outils Hermes 'agir sur Funk' = phase ultérieure, API :8080 à spécifier). Vérifié : py_compile client+serveur, YAML manifests, ServerClient. Co-Authored-By: Claude Opus 4.8 <noreply@anthropic.com> Claude-Session: https://claude.ai/code/session_013FmcxGsyXZXogiAHQLjnZT
This commit is contained in:
parent
1ff3fd9bed
commit
6947b394f1
38 changed files with 566 additions and 356 deletions
29
stt/server/stt_server/brain.py
Normal file
29
stt/server/stt_server/brain.py
Normal file
|
|
@ -0,0 +1,29 @@
|
|||
"""Orchestration AI : route les requêtes des clients vers LiteLLM (s01).
|
||||
|
||||
LiteLLM (:4000) est OpenAI-compatible et route lui-même vers Qwen3 (g01) ou Claude
|
||||
selon l'alias `hermes-default` / `hermes-switch`. L'intégration des outils Hermes
|
||||
(« agir sur Funk » via le gateway :8080) est une étape ultérieure.
|
||||
"""
|
||||
|
||||
from __future__ import annotations
|
||||
|
||||
import httpx
|
||||
|
||||
from stt_server.config import settings
|
||||
|
||||
|
||||
async def ask(text: str) -> str:
|
||||
payload = {
|
||||
"model": settings.model,
|
||||
"messages": [
|
||||
{"role": "system", "content": settings.system_prompt},
|
||||
{"role": "user", "content": text},
|
||||
],
|
||||
"max_tokens": settings.max_tokens,
|
||||
"temperature": settings.temperature,
|
||||
}
|
||||
headers = {"Authorization": f"Bearer {settings.litellm_key}"}
|
||||
async with httpx.AsyncClient(timeout=settings.request_timeout) as client:
|
||||
r = await client.post(settings.litellm_url, json=payload, headers=headers)
|
||||
r.raise_for_status()
|
||||
return r.json()["choices"][0]["message"]["content"].strip()
|
||||
Loading…
Add table
Add a link
Reference in a new issue