mirror of
https://github.com/Alkatrazz24/Funk-lab.git
synced 2026-07-10 13:54:42 +02:00
docs(stt): documenter le fix /no_think Qwen3 + instance embeddings :1238
- admin/ia/stt.md : caveat « thinking » Qwen3 (content vide / timeout 502) + fix /no_think + fallback reasoning_content ; roadmap 5e ; bannière. - stt/server/README.md : env STT_DISABLE_THINKING + section caveat Qwen3. - admin/ia/llama_server.md : 4e instance llama-embed :1238 (nomic, dim 768), double source d'embeddings (1234 Qwen3 / 1238 nomic), caveat thinking, correction dim Qwen3 (3584 → 4096). - admin/ia/litellm.md : cross-ref caveat thinking (concerne tous les consommateurs de hermes-default/qwen3). - ci : exclure **/*.md du trigger build-stt-server (doc-only ne rebuild plus). Co-Authored-By: Claude Opus 4.8 <noreply@anthropic.com> Claude-Session: https://claude.ai/code/session_013FmcxGsyXZXogiAHQLjnZT
This commit is contained in:
parent
c79c203970
commit
1340c36b16
5 changed files with 62 additions and 7 deletions
|
|
@ -48,6 +48,11 @@ sudo journalctl -u litellm -n 50
|
|||
> `qwen3-1.7b-system` et `qwen3-1.7b-monitor` sont utilisés par `ask-agent system` et
|
||||
> `ask-agent monitor` — voir [hermes.md](hermes.md).
|
||||
|
||||
> ⚠️ **Qwen3 = modèle « thinking »** : il raisonne avant de répondre. Avec un `max_tokens`
|
||||
> faible, il peut renvoyer un `content` **vide** (budget épuisé en `reasoning_content`) ou
|
||||
> dépasser le timeout (réflexion longue). Ajouter **`/no_think`** au prompt système pour le
|
||||
> désactiver (STT le fait via `STT_DISABLE_THINKING`). Voir `admin/ia/llama_server.md`.
|
||||
|
||||
---
|
||||
|
||||
## Switch rapide avec hermes-switch
|
||||
|
|
|
|||
Loading…
Add table
Add a link
Reference in a new issue