Công cụ theo tag
Danh sách các công cụ liên quan đến tag quantization.
2 công cụ
🧩 Framework & Thư viện
PyTorch implementation của Google TurboQuant (ICLR 2026) cho nén KV cache LLM, đạt ~2x compression với K6/V4 mà giữ output chính xác. 649 stars.
Mã nguồn mở
⭐ 1k
🧩 Framework & Thư viện
Engine inference C99 thử nghiệm chạy mô hình Kimi K3 2,78 nghìn tỷ tham số trên CPU bằng cách stream trọng số từ bộ nhớ lưu trữ.
Mã nguồn mở
⭐ 8.8k