akadmin/Funk-lab
1
0
Fork 0
mirror of https://github.com/Alkatrazz24/Funk-lab.git synced 2026-07-11 19:44:42 +02:00
Code Issues Projects Releases Packages Wiki Activity Actions

feat(stt): mémoire court-terme de session côté serveur (5a) (#8)

Browse source 
Serveur : SessionStore (historique borné + TTL, en mémoire), /v1/ask accepte session_id
et injecte l'historique dans l'appel LLM, /v1/reset l'efface. Dockerfile en 1 worker
(cohérence mémoire process).

Client : session_id généré par run (uuid), envoyé à chaque requête ; commande /reset
en mode texte.

Testé en process (TestClient) : historique croît 0→2→4, reset→0, sessions isolées,
sans session_id = sans état.

Mémoire long-terme Qdrant (5b) + réparation Qdrant (5c) à suivre.


Claude-Session: https://claude.ai/code/session_013FmcxGsyXZXogiAHQLjnZT

Co-authored-by: Claude <noreply@anthropic.com>
This commit is contained in:
ALI YESILKAYA 2026-06-17 16:15:57 +02:00 • committed by GitHub
parent bcdb4f8b2a
commit 815beaf37c
No known key found for this signature in database
GPG key ID: B5690EEEBB952194
8 changed files with 107 additions and 17 deletions
Download patch file Download diff file Expand all files Collapse all files

8
stt/server/README.md
View file

@ -9,11 +9,17 @@ STT et route l'inférence vers LiteLLM (s01) → Qwen3 (g01) / Claude.
|---|---|---|---|
| `GET` | `/healthz` | — | `{status, version}` |
| `GET` | `/v1/models` | — | `{default, available[]}` |
| `POST` | `/v1/ask` | `{text, model?}` | `{reply, model}` |
| `POST` | `/v1/ask` | `{text, model?, session_id?}` | `{reply, model}` |
| `POST` | `/v1/reset` | `{session_id}` | `{status}` |
`model` (optionnel) = alias LiteLLM ; défaut serveur si absent ; rejeté (400) si absent
de `STT_ALLOWED_MODELS`. Le client choisit le modèle par requête (pas de switch global).
`session_id` (optionnel) active la **mémoire court-terme** : le serveur garde l'historique
de la conversation (en mémoire, borné + TTL) et l'injecte dans l'appel LLM. `/v1/reset`
l'efface. Sans `session_id`, chaque requête est sans état. (Deployment en 1 worker pour
la cohérence de la mémoire process. Mémoire long-terme Qdrant = phase 5b.)
## Configuration (variables d'env)
| Var | Défaut | Rôle |