mirror of
https://github.com/Alkatrazz24/Funk-lab.git
synced 2026-07-08 04:34:41 +02:00
15 lines
334 B
YAML
15 lines
334 B
YAML
---
|
|
llama_server_port: 1234
|
|
llama_server_host: "0.0.0.0"
|
|
llama_amdgpu_targets: "gfx1030"
|
|
rocm_path: "/opt/rocm"
|
|
hsa_override_gfx_version: "10.3.0"
|
|
|
|
# Modèle à charger au démarrage
|
|
llama_model_path: ""
|
|
llama_model_alias: ""
|
|
llama_ctx_size: 32768
|
|
llama_n_gpu_layers: 99
|
|
llama_parallel: 1
|
|
llama_embeddings: true
|
|
llama_pooling: "mean"
|