mirror of
https://github.com/Alkatrazz24/Funk-lab.git
synced 2026-07-11 00:14:42 +02:00
Analysés : litellm.md, llama_server.md, rag.md, rocm.md, incidents.md À améliorer : 0/5 Co-Authored-By: Hermes <hermes@funk.lab>
111 lines
5.1 KiB
Markdown
111 lines
5.1 KiB
Markdown
# Rapport Hermes — 2026-06-03_17-30
|
|
> Branche : `hermes/daily-work` · Fichiers analysés : 5
|
|
|
|
---
|
|
## Résumé
|
|
- ✅ À jour : 5
|
|
- ⚠️ À améliorer : 0
|
|
|
|
## ✅ `admin/ia/litellm.md` — 8/10
|
|
|
|
**Statut** : à_jour
|
|
**Résumé** : Documentation complète sur la configuration et l'utilisation de LiteLLM comme proxy LLM unifié, avec des détails techniques et des exemples pratiques.
|
|
|
|
**Problèmes :**
|
|
- Le template Ansible ne comprend pas les modèles CPU (qwen3-1.7b-system et qwen3-1.7b-monitor) nécessaires pour ask-agent
|
|
- La mention du script hermes-switch est orpheline de son fichier source mentionné
|
|
- Le tableau des coûts Claude manque de précision sur les tarifs exacts
|
|
- Aucune mention des dépendances ROCm ou des contraintes HSA pour les modèles GPU
|
|
|
|
**Suggestions :**
|
|
- Mettre à jour le template Ansible avec les modèles CPU manquants
|
|
- Ajouter une note explicite sur la configuration du script hermes-switch
|
|
- Préciser les tarifs exacts pour les modèles Claude
|
|
- Documenter les dépendances ROCm et les paramètres HSA requis
|
|
|
|
**État réel connu de Hermes :**
|
|
Les modèles CPU sont ajoutés manuellement dans /etc/litellm/config.yaml mais absents du template Ansible. Le script hermes-switch existe mais son fichier source n'est pas référencé dans le document.
|
|
|
|
---
|
|
|
|
## ✅ `admin/ia/llama_server.md` — 9/10
|
|
|
|
**Statut** : à_jour
|
|
**Résumé** : Documentation complète et structurée sur la configuration des instances llama-server sur gpu-01, avec paramètres, performances et métriques actuelles.
|
|
|
|
**Problèmes :**
|
|
- La mention du 'bug parallel' reste vague sans détails supplémentaires
|
|
- Aucune mention des versions ROCm/llama.cpp récentes
|
|
|
|
**Suggestions :**
|
|
- Ajouter les versions ROCm et llama.cpp actuellement utilisées
|
|
- Compléter la section 'Problèmes' avec des détails sur le bug parallel
|
|
- Ajouter des benchmarks de latence/network bandwidth
|
|
|
|
**État réel connu de Hermes :**
|
|
Les instances sont opérationnelles avec 9GB VRAM utilisés (RX 6700XT). Les métriques Prometheus fonctionnent avec --metrics activé. Les embeddings Qwen3-8B (3584 dimensions) sont correctement configurés.
|
|
|
|
---
|
|
|
|
## ✅ `admin/ia/rag.md` — 8/10
|
|
|
|
**Statut** : ok
|
|
**Résumé** : Documentation complète du système RAG détaillant l'architecture, les composants, les modèles d'embedding et les procédures de mise à jour.
|
|
|
|
**Problèmes :**
|
|
- Limite connue des embeddings Qwen3-8B : scores de similarité uniformément élevés (0.90-0.95) avec peu de discrimination sémantique
|
|
- Résultats non triés par pertinence réelle (fichier avec plus de tokens remonte souvent en premier)
|
|
|
|
**Suggestions :**
|
|
- Déployer un modèle d'embedding dédié (nomic-embed-text-v1.5 ou bge-m3) pour améliorer la recherche sémantique
|
|
- Mettre à jour le document avec les paramètres d'embedding recommandés pour les nouveaux modèles
|
|
|
|
**État réel connu de Hermes :**
|
|
Système RAG opérationnel avec Qdrant et outils rag-ingest/rag-query. Index mis à jour via Ansible ou manuellement. Utilise actuellement Qwen3-8B (port 1234) avec limitations connues en embeddings.
|
|
|
|
---
|
|
|
|
## ✅ `admin/ia/rocm.md` — 8/10
|
|
|
|
**Statut** : à_jour
|
|
**Résumé** : Documentation complète pour configurer ROCm sur RX 6700XT avec vérifications clés, mais contient quelques points à améliorer.
|
|
|
|
**Problèmes :**
|
|
- Utilisation de 'ssh g01' qui pourrait ne pas correspondre au hostname réel de gpu-01
|
|
- Manque de vérification pour les dépôts AMD non configurés
|
|
- Chemins /sys/class/drm/card* peuvent varier selon la numérotation PCI
|
|
- Exemple de groupe 'ansible' pourrait ne pas correspondre au user réel
|
|
|
|
**Suggestions :**
|
|
- Ajouter vérification des dépôts AMD avec 'dnf repolist'
|
|
- Mettre en avant la variable HSA_OVERRIDE dans /etc/environment
|
|
- Ajouter avertissement sur les risques de modprobe amdgpu
|
|
- Proposer des exemples de commandes pour différents cas d'utilisation
|
|
|
|
**État réel connu de Hermes :**
|
|
ROCm est correctement configuré sur gpu-01 avec HSA_OVERRIDE, mais nécessite vérification des dépôts et des chemins système
|
|
|
|
---
|
|
|
|
## ✅ `admin/incidents.md` — 7/10
|
|
|
|
**Statut** : à_jour
|
|
**Résumé** : Document complet avec historique des incidents et résolutions détaillées, mais avec des problèmes de formatage et d'incomplétude dans la section post-migration
|
|
|
|
**Problèmes :**
|
|
- La section 'État post-migration' est incomplète (cut-off avec du texte de requête utilisateur)
|
|
- Les tableaux markdown contiennent des erreurs de syntaxe (ex: défaillance de la ligne de tableau)
|
|
- Les logs dmesg devraient être formatés comme des blocs de code
|
|
- Les niveaux de sévérité utilisent des termes français non standardisés
|
|
|
|
**Suggestions :**
|
|
- Compléter la section 'État post-migration' avec les métriques d'usage et vérification de la santé du système
|
|
- Ajouter des blocs de code pour les logs et commandes critiques (```bash ... ```)
|
|
- Standardiser les niveaux de sévérité avec des acronymes internationaux (ex: CRIT, WARN)
|
|
- Vérifier la fermeture complète des tableaux markdown
|
|
|
|
**État réel connu de Hermes :**
|
|
Le système a été migré vers NVMe avec succès, les services sont opérationnels et les données sont préservées
|
|
|
|
---
|
|
|