feat(stt): embeddings dédiés nomic-embed-text sur gpu-01 (:1238) + migration auto

Remplace Qwen3 (chat réutilisé, dim 4096, peu discriminant) par un modèle
d'embedding spécialisé nomic-embed-text (dim 768) pour la mémoire long-terme.

Ansible (rôle llama_server) :
- nouvelle instance optionnelle `llama-embed` (llama_embed_enabled) servant un
  modèle d'embedding dédié sur :1238, GPU ; télécharge le GGUF si absent.
- activée sur gpu-01 (host_vars) : nomic-embed-text-v1.5 f16.

STT-server :
- STT_EMBED_URL → :1238, STT_EMBED_MODEL → nomic-embed-text (deployment + config).
- _ensure_collection détecte le changement de dimension (4096→768) et recrée
  automatiquement la collection stt-memory (anciens vecteurs incomparables) —
  pas de drop manuel.

Docs : llama_server README, rag.md, stt.md (5d ✅), CLAUDE.md.

Co-Authored-By: Claude Opus 4.8 <noreply@anthropic.com>
Claude-Session: https://claude.ai/code/session_013FmcxGsyXZXogiAHQLjnZT

CLAUDE.md

@@ -11,7 +11,7 @@ This file provides guidance to Claude Code (claude.ai/code) when working with co
 - ⚠️ RAG **HS depuis 2026-06-05** — Qdrant en crash-loop (segment `funk-docs` corrompu, voir `admin/incidents.md`) ; `rag-ingest` / `rag-query` indisponibles
 - ✅ Monitoring complet — Prometheus + Grafana + AlertManager → webhook Hermes + n8n
 - ✅ storage-01 installé — `192.168.10.1` (LAN cluster), `192.168.1.200` (WAN)
-- ✅ gpu-01 installé — llama-server GPU (:1234) + CPU (:1236/:1237) opérationnels, kernel 5.14.0-687.5.3
+- ✅ gpu-01 installé — llama-server GPU (:1234) + CPU (:1236/:1237) + embeddings nomic-embed-text (:1238, GPU) opérationnels, kernel 5.14.0-687.5.3
 - ✅ LiteLLM sur storage-01 — proxy multi-modèles + ask-agent (écoute `0.0.0.0:4000`)
 - ✅ Cluster k8s Talos opérationnel (MetalLB + Traefik + wildcard DNS lab.local)
 - ✅ postfix_relay — SMTP sortant via Gmail SMTP + App Password (aliyesilkaya93@gmail.com)

admin/ia/rag.md

@@ -67,16 +67,22 @@ Pour une recherche sémantique précise, utiliser un modèle d'embedding dédié
 | `nomic-embed-text-v1.5` | ~274 MB | 768 | Rapide, bon équilibre qualité/taille |
 | `bge-m3` | ~1.2 GB | 1024 | Multilingue (français natif) — meilleur choix pour ce repo |
 
-Déploiement si besoin :
-```bash
-# Sur gpu-01 — télécharger le modèle
-ssh gpu-01 "lms get nomic-ai/nomic-embed-text-v1.5-GGUF"
+Déploiement — **déjà fait pour STT** (instance `nomic-embed-text` sur `:1238`, dim 768) :
+le rôle `llama_server` gère désormais une instance dédiée embeddings sur gpu-01 (GPU),
+activée par `llama_embed_enabled` (voir `ansible/roles/llama_server/README.md`). STT pointe
+dessus (`STT_EMBED_URL=http://192.168.10.20:1238/v1/embeddings`).
 
-# Ajouter une instance llama-server sur port 1238 (CPU, embedding only)
+```bash
+# (re)déployer l'instance embeddings sur gpu-01
+ansible-playbook -i inventory.yml playbooks/gpu-01.yml --tags llama_server
+```
+
+Pour basculer **le RAG** sur cette même instance (quand il sera réparé) :
+```bash
 # Modifier ansible/roles/rag/defaults/main.yml :
 #   embed_url: "http://192.168.10.20:1238/v1/embeddings"
-#   embed_model: "nomic-embed-text-v1.5"
-# Puis re-indexer : rag-ingest /srv/data/rag/docs/
+#   embed_model: "nomic-embed-text"
+# Puis re-indexer (la dimension passe à 768 → collection recréée) : rag-ingest /srv/data/rag/docs/
 ```
 
 ---

admin/ia/stt.md

@@ -98,10 +98,13 @@ switch global type `hermes-switch` (pas de restart, chaque client choisit le sie
     cherchable (sans `wait`, l'écriture est mise en file → un rappel cross-session immédiat pouvait la rater).
   - **`GET /v1/memory/health`** : sonde active embed + Qdrant + collection, **expose les erreurs**
     (recall/remember dégradent en silence → indébogables sans cet endpoint). Sert au diagnostic.
-  - Caveat qualité : Qwen3 n'est pas un modèle d'embedding dédié (cosinus uniformément hauts) →
-    recherche peu discriminante quand la mémoire grossit. Amélioration backlog : `nomic-embed-text`
-    (modèle spécialisé embeddings, dim 768) — voir « À venir » + `admin/ia/rag.md`. Pas urgent
-    tant que le volume de souvenirs est faible.
+- **Embeddings dédiés (5d, fait)** : passage de Qwen3 (chat réutilisé, dim 4096, cosinus
+  uniformément hauts → peu discriminant) à **`nomic-embed-text`** (modèle spécialisé, dim 768),
+  servi par une instance llama-server dédiée sur gpu-01 `:1238` (GPU), gérée par le rôle
+  `llama_server` (`llama_embed_enabled`). STT : `STT_EMBED_URL=…:1238`, `STT_EMBED_MODEL=nomic-embed-text`.
+  - **Migration auto de la collection** : `_ensure_collection` détecte le changement de dimension
+    (4096 → 768) et **recrée** `stt-memory` (les anciens vecteurs sont incomparables dans le nouvel
+    espace). Aucun drop manuel — la collection est reconstruite à la première requête après bascule.
 - **Réparation Qdrant (5c, fait)** : crash-loop depuis 05/06 (segment `funk-docs` corrompu).
   Réparé le 17/06 sur s01 : `systemctl stop qdrant && rm -rf /srv/data/qdrant/storage/collections/funk-docs && systemctl start qdrant`.
 
@@ -154,7 +157,7 @@ Côté client, pilotable depuis `stt/client/config/` + l'écran de réglages du
 | **5a — Mémoire court-terme** | historique de session côté serveur | ✅ |
 | **5b — Mémoire long-terme** | Qdrant `stt-memory` + embeddings Qwen3 (dégrade si down) | ✅ validé 17/06 (rappel cross-session OK) |
 | **5c — Réparation Qdrant** | drop `funk-docs` corrompu + restart (s01) | ✅ (17/06) |
-| **5d — Embeddings dédiés** | `nomic-embed-text` (dim 768) à la place de Qwen3 → recherche plus précise | ⏳ backlog (qualité) |
+| **5d — Embeddings dédiés** | `nomic-embed-text` (dim 768) sur gpu-01 `:1238` → recherche plus précise | ✅ (rôle llama_server + migration auto collection) |
 | **6 — Auto-start client** | `install-service.sh` (systemd --user) + kiosk | ⏳ |
 | **7 — Outils Hermes** | « agir sur Funk » via gateway `:8080` (API à spécifier) | ⏳ |
 

ansible/host_vars/gpu-01/vars.yml

@@ -6,6 +6,13 @@ llama_model_path: "/mnt/models/bartowski/Qwen3-8B-GGUF/Qwen3-8B-Q4_K_M.gguf"
 llama_model_alias: "qwen3-8b"
 llama_ctx_size: 32768
 
+# Instance dédiée embeddings — nomic-embed-text (recherche sémantique précise, dim 768).
+# Sert la mémoire long-terme de STT. Sur GPU, port :1238 (modèle ~300 Mo VRAM).
+llama_embed_enabled: true
+llama_embed_model_path: "/mnt/models/nomic-ai/nomic-embed-text-v1.5.f16.gguf"
+llama_embed_model_url: "https://huggingface.co/nomic-ai/nomic-embed-text-v1.5-GGUF/resolve/main/nomic-embed-text-v1.5.f16.gguf"
+llama_embed_model_alias: "nomic-embed-text"
+
 # ROCm scraper — métriques GPU dans Prometheus
 rocm_exporter_enabled: true
 

ansible/roles/llama_server/README.md

@@ -8,6 +8,10 @@ Compile llama.cpp (backend HIP/ROCm) et déploie le service **llama-server GPU**
 - Service systemd `llama-server` : modèle GGUF depuis `/mnt/models` (NFS), `:1234`
 - Embeddings activés (`--embeddings`, pooling mean)
 - Ouvre le port dans le firewall, désactive l'ancien service lm-studio
+- **Instance dédiée embeddings** (optionnelle, `llama_embed_enabled`) : service systemd
+  `llama-embed` servant un modèle d'embedding spécialisé (ex. `nomic-embed-text`) sur
+  `:1238`, GPU. Télécharge le GGUF depuis `llama_embed_model_url` si absent. Partage le
+  binaire et le GPU avec `:1234` (modèle ~300 Mo VRAM).
 
 ## Variables principales
 
@@ -19,6 +23,11 @@ Compile llama.cpp (backend HIP/ROCm) et déploie le service **llama-server GPU**
 | `llama_ctx_size` | 32768 | 32768 |
 | `llama_n_gpu_layers` | 99 | — |
 | `hsa_override_gfx_version` | `10.3.0` | — |
+| `llama_embed_enabled` | `false` | `true` |
+| `llama_embed_port` | 1238 | — |
+| `llama_embed_model_path` | `""` | `/mnt/models/nomic-ai/nomic-embed-text-v1.5.f16.gguf` |
+| `llama_embed_model_url` | `""` | URL HuggingFace du GGUF nomic |
+| `llama_embed_model_alias` | `nomic-embed-text` | — |
 
 ## ⚠️ Gap IaC — instances CPU hors Ansible
 

ansible/roles/llama_server/defaults/main.yml

@@ -13,3 +13,15 @@ llama_n_gpu_layers: 99
 llama_parallel: 1
 llama_embeddings: true
 llama_pooling: "mean"
+
+# Instance dédiée embeddings (modèle spécialisé, ex. nomic-embed-text) — séparée du
+# serveur de chat :1234. Désactivée par défaut ; activée via host_vars (gpu-01).
+# Partage le même binaire /opt/llama.cpp et le même GPU (modèle minuscule, ~300 Mo VRAM).
+llama_embed_enabled: false
+llama_embed_port: 1238
+llama_embed_model_path: ""          # chemin GGUF sur /mnt/models (NFS)
+llama_embed_model_url: ""           # URL de téléchargement (HuggingFace) — get_url si absent
+llama_embed_model_alias: "nomic-embed-text"
+llama_embed_ctx_size: 2048
+llama_embed_n_gpu_layers: 99
+llama_embed_pooling: "mean"

ansible/roles/llama_server/handlers/main.yml

@@ -7,3 +7,8 @@
   ansible.builtin.systemd:
     name: llama-server
     state: restarted
+
+- name: Restart llama-embed
+  ansible.builtin.systemd:
+    name: llama-embed
+    state: restarted

ansible/roles/llama_server/tasks/main.yml

@@ -77,3 +77,49 @@
     enabled: false
     state: stopped
   ignore_errors: true
+
+# --- Instance dédiée embeddings (nomic-embed-text) — optionnelle ---------------
+
+- name: Ensure embedding model directory exists
+  ansible.builtin.file:
+    path: "{{ llama_embed_model_path | dirname }}"
+    state: directory
+    mode: '0755'
+  when: llama_embed_enabled and llama_embed_model_path | length > 0
+
+- name: Download embedding model (GGUF) if absent
+  ansible.builtin.get_url:
+    url: "{{ llama_embed_model_url }}"
+    dest: "{{ llama_embed_model_path }}"
+    mode: '0644'
+    timeout: 120
+  when:
+    - llama_embed_enabled
+    - llama_embed_model_url | length > 0
+    - llama_embed_model_path | length > 0
+
+- name: Deploy embedding llama-server service
+  ansible.builtin.template:
+    src: llama-embed.service.j2
+    dest: /etc/systemd/system/llama-embed.service
+    mode: '0644'
+  notify:
+    - Reload systemd
+    - Restart llama-embed
+  when: llama_embed_enabled
+
+- name: Enable embedding llama-server service
+  ansible.builtin.systemd:
+    name: llama-embed
+    enabled: true
+    daemon_reload: true
+    state: started
+  when: llama_embed_enabled
+
+- name: Open embedding port in firewall
+  ansible.posix.firewalld:
+    port: "{{ llama_embed_port }}/tcp"
+    permanent: true
+    state: enabled
+    immediate: true
+  when: llama_embed_enabled

ansible/roles/llama_server/templates/llama-embed.service.j2

@@ -0,0 +1,26 @@
+[Unit]
+Description=llama-server embeddings ({{ llama_embed_model_alias }})
+After=network-online.target
+Wants=network-online.target
+
+[Service]
+Type=simple
+User=root
+Environment=HSA_OVERRIDE_GFX_VERSION={{ hsa_override_gfx_version }}
+Environment=LD_LIBRARY_PATH={{ rocm_path }}/lib
+ExecStart=/opt/llama.cpp/build/bin/llama-server \
+    --model {{ llama_embed_model_path }} \
+    --host {{ llama_server_host }} \
+    --port {{ llama_embed_port }} \
+    --ctx-size {{ llama_embed_ctx_size }} \
+    --n-gpu-layers {{ llama_embed_n_gpu_layers }} \
+    --alias {{ llama_embed_model_alias }} \
+    --embeddings \
+    --pooling {{ llama_embed_pooling }} \
+    --metrics \
+    --log-disable
+Restart=on-failure
+RestartSec=10
+
+[Install]
+WantedBy=multi-user.target

k8s/apps/stt/deployment.yaml

@@ -41,13 +41,16 @@ spec:
               value: "lm-studio"
             - name: STT_MODEL
               value: "hermes-default"
-            # Mémoire long-terme (Qdrant s01 + embeddings Qwen3 gpu-01) — dégrade si injoignable
+            # Mémoire long-terme (Qdrant s01 + embeddings nomic gpu-01) — dégrade si injoignable
             - name: STT_MEMORY_LONGTERM
               value: "true"
             - name: STT_QDRANT_URL
               value: "http://192.168.10.1:6333"
+            # Instance dédiée embeddings nomic-embed-text sur gpu-01 (:1238, dim 768)
             - name: STT_EMBED_URL
-              value: "http://192.168.10.20:1234/v1/embeddings"
+              value: "http://192.168.10.20:1238/v1/embeddings"
+            - name: STT_EMBED_MODEL
+              value: "nomic-embed-text"
           readinessProbe:
             httpGet:
               path: /healthz

stt/server/README.md

@@ -33,7 +33,8 @@ la cohérence de la mémoire process. Mémoire long-terme Qdrant = phase 5b.)
 | `STT_MAX_TOKENS` / `STT_TEMPERATURE` | `200` / `0.7` | génération |
 | `STT_MEMORY_LONGTERM` | `true` | mémoire long-terme Qdrant (dégrade si injoignable) |
 | `STT_QDRANT_URL` | `http://192.168.10.1:6333` | Qdrant (s01) |
-| `STT_EMBED_URL` | `http://192.168.10.20:1234/v1/embeddings` | embeddings Qwen3 (gpu-01) |
+| `STT_EMBED_URL` | `http://192.168.10.20:1238/v1/embeddings` | embeddings nomic-embed-text (gpu-01 `:1238`, dim 768) |
+| `STT_EMBED_MODEL` | `nomic-embed-text` | alias du modèle d'embedding |
 | `STT_MEMORY_TOPK` | `3` | nombre de souvenirs injectés |
 
 ## Dev local
@@ -57,11 +58,12 @@ curl -s localhost:8000/v1/ask -H 'content-type: application/json' -d '{"text":"b
 
 - **Court-terme** (`memory.py`) : historique par `session_id` (en mémoire, borné + TTL).
 - **Long-terme** (`longterm.py`) : collection Qdrant `stt-memory` (vecteurs des tours user,
-  embeddings Qwen3), souvenirs pertinents injectés au prompt. Dégrade si Qdrant/embeddings down.
+  embeddings `nomic-embed-text` dim 768 via gpu-01 `:1238`), souvenirs pertinents injectés au
+  prompt. Dégrade si Qdrant/embeddings down. Migration auto de la collection si la dimension
+  d'embedding change (`_ensure_collection` détecte et recrée).
 
 ## À venir
 
 - Intégration des **outils Hermes** (« agir sur Funk ») via le gateway `:8080` — nécessite
   de spécifier son API. Aujourd'hui : inférence/chat seulement (via LiteLLM).
-- Embedding dédié (`nomic-embed-text`) pour une recherche sémantique de meilleure qualité.
 - Mémoire **distillée** versionnée (faits/préférences) dans `server/memory/`.

stt/server/stt_server/config.py

@@ -36,9 +36,9 @@ class Settings:
     memory_longterm: bool = os.getenv("STT_MEMORY_LONGTERM", "true").lower() == "true"
     qdrant_url: str = os.getenv("STT_QDRANT_URL", "http://192.168.10.1:6333")
     qdrant_collection: str = os.getenv("STT_QDRANT_COLLECTION", "stt-memory")
-    # Embeddings : Qwen3 sur llama-server gpu-01 (comme le RAG). dim 4096.
-    embed_url: str = os.getenv("STT_EMBED_URL", "http://192.168.10.20:1234/v1/embeddings")
-    embed_model: str = os.getenv("STT_EMBED_MODEL", "qwen3-8b")
+    # Embeddings : instance dédiée nomic-embed-text sur llama-server gpu-01 (:1238, dim 768).
+    embed_url: str = os.getenv("STT_EMBED_URL", "http://192.168.10.20:1238/v1/embeddings")
+    embed_model: str = os.getenv("STT_EMBED_MODEL", "nomic-embed-text")
     memory_top_k: int = int(os.getenv("STT_MEMORY_TOPK", "3"))
 
 

stt/server/stt_server/longterm.py

@@ -1,13 +1,13 @@
 """Mémoire long-terme sémantique (Qdrant).
 
 Stocke les tours utilisateur comme vecteurs dans la collection `stt-memory` et retrouve
-les souvenirs pertinents pour les injecter dans le prompt. Embeddings via Qwen3 (llama-server
-gpu-01), comme le RAG. **Tout dégrade proprement** : si Qdrant ou l'endpoint d'embedding
-est injoignable, `recall` renvoie [] et `remember` ne fait rien (la mémoire court-terme
-de session continue de fonctionner).
+les souvenirs pertinents pour les injecter dans le prompt. Embeddings via une instance
+llama-server dédiée (`nomic-embed-text`, gpu-01 `:1238`, dim 768). **Tout dégrade proprement** :
+si Qdrant ou l'endpoint d'embedding est injoignable, `recall` renvoie [] et `remember` ne
+fait rien (la mémoire court-terme de session continue de fonctionner).
 
-> Caveat qualité : Qwen3 n'est pas un modèle d'embedding dédié (cosinus uniformément hauts) ;
-> la recherche est approximative. Voir admin/ia/rag.md pour la piste nomic-embed-text.
+> Le modèle d'embedding est configurable (`STT_EMBED_URL`/`STT_EMBED_MODEL`). Si la dimension
+> change, `_ensure_collection` recrée automatiquement la collection. Voir admin/ia/rag.md.
 """
 
 from __future__ import annotations
@@ -42,11 +42,22 @@ class LongTermMemory:
         if self._ready:
             return
         r = await client.get(f"{self.qdrant}/collections/{self.collection}")
-        if r.status_code == 404:
-            await client.put(
-                f"{self.qdrant}/collections/{self.collection}",
-                json={"vectors": {"size": dim, "distance": "Cosine"}},
+        if r.status_code == 200:
+            # Collection existante : si la dimension a changé (modèle d'embedding
+            # différent, ex. Qwen3 4096 → nomic 768), on recrée — les anciens vecteurs
+            # sont incomparables dans le nouvel espace.
+            vectors = (
+                r.json().get("result", {}).get("config", {}).get("params", {}).get("vectors", {})
             )
+            size = vectors.get("size") if isinstance(vectors, dict) else None
+            if size == dim:
+                self._ready = True
+                return
+            await client.delete(f"{self.qdrant}/collections/{self.collection}")
+        await client.put(
+            f"{self.qdrant}/collections/{self.collection}",
+            json={"vectors": {"size": dim, "distance": "Cosine"}},
+        )
         self._ready = True
 
     async def recall(self, text: str) -> list[str]: