mirror of
https://github.com/Alkatrazz24/Funk-lab.git
synced 2026-07-10 15:24:43 +02:00
fix(stt-server): retry brain + timeout par tentative + log timing effectif
Suite au déploiement 0.2.0, deux points observés en pilotant l'app en direct : - Le log de timing (`ask … recall/gen/total`) n'émettait pas : uvicorn ne configure que ses propres loggers → on attache un handler INFO sur `stt_server`. - La chaîne LiteLLM→llama-server (ROCm gfx1031) se fige par à-coups (~1-2 min, 502 pour tous les appels, cf. incidents-llm-gpu.md). Résilience côté STT : brain tente 2× (fermeture du client httpx entre les essais → connexion neuve si le pool est vicié) et le timeout passe à 30s PAR tentative (≤ ~2× au pire). Un blip transitoire devient une requête récupérée au lieu d'un 502. bump serveur 0.2.0 → 0.2.1 Co-Authored-By: Claude Opus 4.8 <noreply@anthropic.com>
This commit is contained in:
parent
ced79658cf
commit
917ffcfc32
5 changed files with 32 additions and 5 deletions
|
|
@ -23,6 +23,14 @@ from stt_server.longterm import LongTermMemory
|
|||
from stt_server.memory import SessionStore
|
||||
|
||||
log = logging.getLogger("stt_server")
|
||||
# uvicorn ne configure que ses propres loggers : on attache notre handler en INFO
|
||||
# pour que les lignes de timing (`ask … recall/gen/total`) sortent dans les logs du pod.
|
||||
if not log.handlers:
|
||||
log.setLevel(logging.INFO)
|
||||
_h = logging.StreamHandler()
|
||||
_h.setFormatter(logging.Formatter("%(levelname)s: %(name)s: %(message)s"))
|
||||
log.addHandler(_h)
|
||||
log.propagate = False
|
||||
|
||||
sessions = SessionStore()
|
||||
longterm = LongTermMemory() if settings.memory_longterm else None
|
||||
|
|
|
|||
Loading…
Add table
Add a link
Reference in a new issue