lattice

在 Apple Silicon 上執行、量化及微調 LLM。純 Rust,無 Python、無 CUDA、無 ONNX

lattice 是什麼?

在 Apple Silicon 上執行、量化及微調 LLM。純 Rust,無 Python、無 CUDA、無 ONNX