fix(litellm): request_timeout 600→60s + num_retries 2 (anti-connexion périmée) (#22)

Cause du burst de 502 « cold-start » : après un restart de llama-server, LiteLLM
garde des connexions keep-alive mortes dans son pool → la requête suivante hang
jusqu'au timeout. Or request_timeout valait 600s → hang jusqu'à 10 min, sans log
(LiteLLM attendait encore). Fix :
- request_timeout 60s : borne le hang d'une connexion morte
- num_retries 2 : rejoue → évince le socket périmé, repart sur une connexion neuve

Doc : section dédiée dans admin/incidents-llm-gpu.md (mécanisme + application +
reste à faire = watchdog qui bounce llama-server ET litellm).

Application : ansible-playbook -i inventory.yml playbooks/storage-01.yml --tags litellm
(redémarre LiteLLM → applique le fix ET purge le pool d'un coup).

Co-authored-by: Claude Opus 4.8 <noreply@anthropic.com>

ansible/roles/litellm/templates/config.yaml.j2

@@ -30,7 +30,13 @@ model_list:
 
 litellm_settings:
   drop_params: true
-  request_timeout: 600
+  # 600s = 10 min : une connexion keep-alive périmée vers llama-server (après un
+  # restart de ce dernier) fait alors hanger LiteLLM 10 min avant d'abandonner →
+  # 502 en cascade pour tous les consommateurs. 60s borne ce hang.
+  request_timeout: 60
+  # Rejoue une requête échouée (timeout/erreur réseau) : sur la 2ᵉ tentative la
+  # connexion morte du pool est évincée → la requête repart sur une connexion neuve.
+  num_retries: 2
 
 general_settings:
   master_key: {{ litellm_master_key }}