mirror of
https://github.com/Alkatrazz24/Funk-lab.git
synced 2026-07-10 09:44:43 +02:00
feat(stt-server): contextes présélectionnables + sources live + contexte assemblé (visualiseur)
Asa n'est plus bloqué sur le seul contexte « doc cluster grounding-strict ». Le client choisit un contexte par requête ; le serveur change le system prompt ET injecte les données live du domaine, puis renvoie le contexte assemblé pour le visualiseur du HUD. - contexts.py : profils funk / ghostfolio / grafana / alerting / cluster (system prompt + sources) + assemble() (prompt final + structure de visualisation). - sources.py : fetchers live best-effort (Ghostfolio auth+details, Alertmanager alerts hors Watchdog, Prometheus cluster/metrics), env-config, dégradation propre. - brain.py : ask() reçoit le system prompt déjà assemblé (assemblage remonté). - app.py : /v1/ask accepte `context`, renvoie context_id + le contexte assemblé ; nouveau GET /v1/contexts ; RAG doc conditionné au profil. - config.py : URLs sources + STT_GHOSTFOLIO_TOKEN + STT_DEFAULT_CONTEXT. - deployment : env in-cluster (Prometheus/Alertmanager monitoring, Ghostfolio ai), jeton via secret optionnel stt-server-secrets/ghostfolio-token. - bump 0.3.1 → 0.4.0. Validé en local : assemblage (blocs+RAG+mémoire), parsing des sources (mock), endpoints /v1/contexts et /v1/ask (LLM mocké) — context_id, visualiseur, fallback contexte inconnu → funk. Co-Authored-By: Claude Opus 4.8 <noreply@anthropic.com>
This commit is contained in:
parent
3b6099ffa0
commit
da0dc3f5f6
8 changed files with 388 additions and 27 deletions
|
|
@ -31,32 +31,21 @@ async def aclose() -> None:
|
|||
|
||||
async def ask(
|
||||
text: str,
|
||||
system: str,
|
||||
model: str | None = None,
|
||||
history: list[dict] | None = None,
|
||||
memories: list[str] | None = None,
|
||||
knowledge: list[str] | None = None,
|
||||
) -> str:
|
||||
system = settings.system_prompt
|
||||
"""Interroge le LLM avec un system prompt **déjà assemblé** (voir contexts.assemble).
|
||||
|
||||
Le choix du contexte, l'injection des sources live et du RAG sont faits en amont
|
||||
(app.v1_ask + contexts) ; ici on ne fait que le réglage thinking + l'appel LLM.
|
||||
"""
|
||||
if settings.disable_thinking:
|
||||
# Qwen3 est un modèle « thinking » : sans ça il dépense tout le budget max_tokens
|
||||
# en raisonnement (`reasoning_content`) → `content` vide, ou part en réflexion longue
|
||||
# → timeout (502). Le token de contrôle `/no_think` désactive le mode raisonnement.
|
||||
# Inoffensif pour les modèles non-Qwen (simple texte ignoré).
|
||||
system += "\n/no_think"
|
||||
if knowledge:
|
||||
# Contexte AUTORITAIRE : extraits de la doc Funk (RAG funk-docs). Le modèle doit
|
||||
# répondre à partir de ça pour les questions sur le homelab (sinon il hallucine).
|
||||
extraits = "\n\n".join(knowledge)
|
||||
system += (
|
||||
"\n\n=== Documentation Funk (réponds À PARTIR de ces extraits ; "
|
||||
"si l'info n'y est pas, dis-le) ===\n" + extraits
|
||||
)
|
||||
if memories:
|
||||
souvenirs = "\n".join(f"- {m}" for m in memories)
|
||||
system += (
|
||||
"\n\nÉléments de mémoire long-terme (peuvent aider, ignore si hors-sujet) :\n"
|
||||
+ souvenirs
|
||||
)
|
||||
messages = [{"role": "system", "content": system}]
|
||||
if history:
|
||||
messages += history
|
||||
|
|
|
|||
Loading…
Add table
Add a link
Reference in a new issue