搜索结果：quantization（4 个）
按分类缩小范围
faster-whisper
商机 68
基于 CTranslate2 的高速 Whisper 转录工具。
Chinese-LLaMA-Alpaca
商机 68
中文 LLaMA 与 Alpaca 大语言模型，支持在本地 CPU/GPU 环境下训练与部署。
kimi-k3-in-c
商机 64
纯 C99 实现的 Kimi K3 推理，无需 GPU、BLAS 或任何框架，单 CPU 和 8.24 GB 内存即可运行。
turbovec
商机 63
基于 TurboQuant 的向量索引库，采用 Rust 开发并提供 Python 绑定。