搜索结果：gpu（19 个）
按分类缩小范围
skypilot
商机 76
AI 算力编排平台，将分散的 AI 算力整合为虚拟超级计算机，加速模型研发。
web-llm
商机 74
直接在浏览器内运行的高性能 LLM 推理引擎。
ml-engineering
商机 72
机器学习工程开源电子书。
TensorRT-LLM
商机 71
提供易用的 Python API，针对 NVIDIA GPU 优化 LLM 高效推理加速。
Chinese-LLaMA-Alpaca
商机 68
中文 LLaMA 与 Alpaca 大语言模型，支持在本地 CPU/GPU 环境下训练与部署。
tvm
商机 68
开源机器学习编译器框架。
airllm
商机 68
单张 4GB 显卡即可运行超大规模 LLM 的轻量化推理框架。
server
商机 68
专为云端和边缘计算场景优化的 Triton AI 推理服务器解决方案。
deeplearning4j
商机 64
基于 JVM 的深度学习训练与部署工具套件，支持导入 Keras、TensorFlow、ONNX/PyTorch 等模型。
kimi-k3-in-c
商机 64
纯 C99 实现的 Kimi K3 推理，无需 GPU、BLAS 或任何框架，单 CPU 和 8.24 GB 内存即可运行。
tfjs
商机 63
支持 WebGL 硬件加速的 JavaScript 库，用于在前端训练与部署 ML 模型。
burn
商机 62
兼顾灵活性、高效性与跨平台特性的 Rust 深度学习框架。
LocalAI
商机 49
开源 AI 引擎，可在各类硬件上运行 LLM、视觉及语音等模型，无需 GPU。
pytorch-lightning
商机 49
无需修改代码，即可在单卡或上万张 GPU 上预训练及微调任意规模的 AI 模型。
local-dream
商机 44
在 Android 设备上运行 Stable Diffusion，支持骁龙 NPU 加速及 CPU/GPU 推理。
zinc
商机 44
Zig 推理引擎，支持在 AMD GPU 和 Apple Silicon 上进行本地 LLM 推理。
pytorch （深度学习框架）
商机 43
支持强大 GPU 加速的 Python 库，可用于张量计算和搭建动态深度神经网络。
TensorRT
商机 43
NVIDIA GPU 高性能深度学习推理 SDK，本仓库包含其开源组件。
colibri
商机 41
C 语言编写的 MoE 分层推理引擎，按热度在 GPU、RAM 与 NVMe 间调度专家权重。