搜索结果：moe（6 个）
按分类缩小范围
ms-swift
综合 73
支持用 PEFT 或全参数微调（CPT/SFT/DPO/GRPO）600+ 款 LLM 与 300+ 款多模态大模型。
VidBee
综合 71
支持从千余站点下载音视频，本地转写并标注说话人，结合 AI 实现总结、翻译及对话。
TensorRT-LLM
综合 70
提供易用的 Python API，针对 NVIDIA GPU 优化 LLM 高效推理加速。
FreeToken
综合 68
将数据中心级模型服务带到桌面端，在本地快速高效运行超大模型。
kimi-k3-in-c
综合 53
纯 C99 实现的 Kimi K3 推理，无需 GPU、BLAS 或任何框架，单 CPU 和 8.24 GB 内存即可运行。
colibri
综合 44
C 语言编写的 MoE 分层推理引擎，按热度在 GPU、RAM 与 NVMe 间调度专家权重。