llama-swap

可靠的模型切換功能,適用於任何本地端 OpenAI/Anthropic 相容伺服器 - llama.cpp、vllm 等

llama-swap 是什麼?

可靠的模型切換功能,適用於任何本地端 OpenAI/Anthropic 相容伺服器 - llama.cpp、vllm 等