Funk-lab/stt/server/stt_server/contexts.py
ALI YESILKAYA 7cafc06069
feat(stt): Asa agentique — boucle d'outils (function calling, Phase 1) (#48)
Asa ne répondait qu'à partir d'un contexte figé (RAG doc ou blocs live
pré-câblés, à présélectionner) → les questions à état live (« gpu-01 tourne
bien ? ») tombaient sur « la doc ne le précise pas ». Bascule vers une boucle
de function-calling : le modèle décide quels outils appeler puis répond à
partir de leurs résultats.

- Nouveau contexte `asa` (STT_DEFAULT_CONTEXT=asa, défaut prod) + tools.py
  (registre schémas OpenAI + exécuteurs) + brain.ask_with_tools (boucle bornée
  STT_TOOL_MAX_ITERS=4, réponse forcée au-delà ; _post factorisé + retry).
- Outils Phase 1, LECTURE SEULE : search_docs (RAG funk-docs), host_health
  (gpu-01|storage-01 : up/charge/RAM + llama-server), cluster_status,
  prometheus_query (PromQL arbitraire). Réutilisent sources.py / knowledge.py.
- Trace des outils renvoyée dans `context` → visualiseur HUD (un bloc par appel).
- 100 % local (Qwen3-8B) : tool-calling natif llama.cpp validé, survit au
  /no_think. LiteLLM transmet bien les tools. PromQL validés contre le vrai
  Prometheus in-cluster. 3 tests unitaires de la boucle (hors-ligne).

Web search (SearXNG in-cluster) = Phase 2 ; actions admin pilotées par le LLM
(hermes-exec comme outil) = Phase 3.

Co-authored-by: Claude Opus 4.8 <noreply@anthropic.com>
2026-06-22 21:52:28 +02:00

158 lines
6.6 KiB
Python

"""Contextes présélectionnables d'Asa — profils de domaine + assemblage du prompt.
Chaque profil définit un system prompt et les **sources live** à injecter dans le
contexte (Ghostfolio, Prometheus, Alertmanager, doc Funk). Le client choisit un
contexte par requête (`context` dans /v1/ask) ; le serveur assemble le prompt et
renvoie le contexte assemblé pour le **visualiseur** du HUD.
Ajouter un contexte = une entrée dans CONTEXTS (id, label, icône, prompt, sources).
"""
from __future__ import annotations
from dataclasses import dataclass
from stt_server.config import settings
# Préambule commun (ton, langue, concision) — chaque prompt de contexte le complète.
_BASE = (
"Tu es Hermes, l'assistant vocal du homelab Funk. Réponds toujours en français, "
"de façon concise (2-3 phrases maximum), sans markdown ni listes."
)
@dataclass(frozen=True)
class Context:
id: str
label: str
icon: str
description: str
system_prompt: str
sources: tuple[str, ...] = () # "docs","ghostfolio","alerts","cluster","metrics"
tools: tuple[str, ...] = () # outils function-calling (cf. tools.py) → boucle agentique
# Le contexte « funk » garde le prompt grounding-strict historique (env override possible).
CONTEXTS: dict[str, Context] = {
# Contexte « asa » : boucle d'outils (function calling). Asa décide elle-même quand
# sonder l'état live du homelab ou chercher dans la doc, puis répond. C'est le contexte
# par défaut côté production (STT_DEFAULT_CONTEXT=asa) — « gpu-01 tourne bien ? » marche
# sans présélection. Les outils sont en LECTURE SEULE (volet actions = contexte « agent »).
"asa": Context(
id="asa", label="Asa · agent", icon="",
description="Asa répond en s'appuyant sur des outils (doc + état live du homelab).",
system_prompt=_BASE + " Tu disposes d'outils pour obtenir l'état RÉEL et LIVE du "
"homelab (santé des machines, état du cluster, métriques Prometheus) et pour chercher "
"dans la documentation Funk. Dès qu'une question porte sur l'état courant, un fait "
"précis ou la config du homelab, APPELLE l'outil adéquat puis réponds à partir de son "
"résultat — n'invente jamais. Si les outils ne donnent pas l'information, dis-le "
"simplement. Pour le bavardage général, réponds directement sans outil.",
tools=("search_docs", "host_health", "cluster_status", "prometheus_query"),
),
"funk": Context(
id="funk", label="Funk · cluster", icon="🛠️",
description="Questions sur le homelab depuis la documentation.",
system_prompt=settings.system_prompt,
sources=("docs",),
),
"ghostfolio": Context(
id="ghostfolio", label="Ghostfolio", icon="💰",
description="Ton portefeuille et tes investissements.",
system_prompt=_BASE + " Tu aides sur le portefeuille d'investissement de "
"l'utilisateur. Appuie-toi sur les données Ghostfolio fournies ci-dessous ; "
"donne des montants précis quand ils y figurent. Si une donnée n'est pas "
"fournie, dis-le simplement.",
sources=("ghostfolio",),
),
"grafana": Context(
id="grafana", label="Grafana · métriques", icon="📊",
description="Métriques et observabilité du homelab.",
system_prompt=_BASE + " Tu réponds sur les métriques et l'observabilité du "
"homelab à partir des données fournies ci-dessous (Prometheus). Reste factuel.",
sources=("metrics",),
),
"alerting": Context(
id="alerting", label="Alerting", icon="🚨",
description="Alertes actives et leur signification.",
system_prompt=_BASE + " Tu expliques et tries les alertes actives fournies "
"ci-dessous : gravité, cause probable, quoi vérifier. S'il n'y a aucune "
"alerte, rassure brièvement.",
sources=("alerts",),
),
"cluster": Context(
id="cluster", label="Gestion cluster", icon="🚢",
description="État et gestion du cluster Kubernetes Funk (lecture seule).",
system_prompt=_BASE + " Tu réponds sur l'état et la gestion du cluster "
"Kubernetes Funk à partir de l'état fourni ci-dessous et de la documentation. "
"Tu fais de la LECTURE SEULE : tu n'exécutes aucune action.",
sources=("cluster", "docs"),
),
# Contexte « agent » : court-circuite le LLM — la demande est confirmée puis
# exécutée par le vrai agent Hermes (hermes-exec). Géré entièrement dans app.py
# (handshake), pas via assemble(). Exposé seulement si actions_enabled + jeton.
"agent": Context(
id="agent", label="Agent (actions)", icon="🤖",
description="Demander à Hermes d'AGIR sur le homelab (confirmation requise).",
system_prompt="", # non utilisé : flux dédié
sources=(),
),
}
# Titres des blocs injectés (visualiseur + prompt)
_SOURCE_TITLES = {
"ghostfolio": "Portefeuille Ghostfolio (données live)",
"metrics": "Métriques Prometheus (live)",
"alerts": "Alertes actives (Alertmanager)",
"cluster": "État du cluster (live)",
"docs": "Documentation Funk",
}
def get_context(context_id: str | None) -> Context:
return CONTEXTS.get(context_id or "", CONTEXTS[settings.default_context])
def assemble(
ctx: Context,
*,
blocks: list[tuple[str, str]],
docs: list[str],
memories: list[str],
) -> tuple[str, dict]:
"""Construit le system prompt final + la structure de visualisation.
`blocks` : (source_id, texte) des sources live déjà récupérées.
Renvoie (system_prompt, debug) où debug alimente le visualiseur du HUD.
"""
system = ctx.system_prompt
debug_blocks: list[dict] = []
for src, text in blocks:
if not text:
continue
title = _SOURCE_TITLES.get(src, src)
system += f"\n\n=== {title} ===\n{text}"
debug_blocks.append({"source": src, "title": title, "text": text})
if "docs" in ctx.sources and docs:
extraits = "\n\n".join(docs)
system += (
"\n\n=== Documentation Funk (réponds À PARTIR de ces extraits ; "
"si l'info n'y est pas, dis-le) ===\n" + extraits
)
if memories:
souvenirs = "\n".join(f"- {m}" for m in memories)
system += (
"\n\nÉléments de mémoire long-terme (peuvent aider, ignore si hors-sujet) :\n"
+ souvenirs
)
debug = {
"id": ctx.id,
"label": ctx.label,
"icon": ctx.icon,
"system_prompt": ctx.system_prompt,
"blocks": debug_blocks,
"docs": docs,
"memories": memories,
}
return system, debug