搜索结果：cuda（13 个）
按分类缩小范围
LMCache
商机 72
专为 LLM 设计的高速 KV Cache 缓存层，有效加速大模型推理与响应。
TensorRT-LLM
商机 71
提供易用的 Python API，针对 NVIDIA GPU 优化 LLM 高效推理加速。
bend
商机 69
Bend 2：通过证明拦截 AI 错误的高速语言。安装：curl -fsSL https://bend-lang.com/install.sh | sh
numba
商机 68
基于 LLVM 的 Python 动态编译器，针对 NumPy 进行了深度优化。
cupy
商机 68
面向 GPU 计算的 NumPy 与 SciPy 兼容加速库。
ACE-Step-1.5
商机 64
可在本地运行的音乐生成模型，支持 Mac、AMD、Intel 和 CUDA 设备。
voicebox
商机 63
开源 AI 语音工作站，支持声音克隆、听写与音频创作。
kaldi
商机 54
语音识别工具包 Kaldi 的官方开源代码仓库。
TensorFold
商机 45
支持 Metal、CUDA 和 Vulkan 的 LLM 推理引擎。
ZLUDA
商机 42
支持在非 NVIDIA GPU 上直接运行 CUDA 应用的兼容层工具。
colibri
商机 41
C 语言编写的 MoE 分层推理引擎，按热度在 GPU、RAM 与 NVMe 间调度专家权重。
ds4
商机 41
支持 Metal、CUDA 和 ROCm 的 DeepSeek 4 本地推理引擎。
cutlass
商机 41
用于高性能线性代数计算的 CUDA 模板与 Python DSL。