搜索结果：engine（86 个）
按分类缩小范围
YOLOX
综合 58
高性能 Anchor-free 目标检测模型，支持 MegEngine、ONNX、TensorRT、ncnn 等部署。
vcluster
综合 57
创建轻量级、完全隔离的虚拟 Kubernetes 租户集群，每个集群拥有独立的 API server 与 CRD。
gearpump
综合 57
〔中文简介暂未生成〕 Lightweight real-time big data streaming engine over Apache Pekko
localGPT
综合 56
在本地利用 GPT 模型与私有文档对话的工具，数据完全不出本机，保障 100% 隐私安全。
qdrant
综合 56
面向下一代 AI 的高性能、大规模向量数据库与向量搜索引擎。
OpenViking
综合 55
面向 AI Agent 的自进化上下文数据库，统一管理 Agent 记忆、RAG 与技能。
dicedb
综合 55
基于 Valkey 的开源低延迟键值引擎，支持查询订阅与分层存储。
colibri
综合 53
C 语言编写的 MoE 分层推理引擎，按热度在 GPU、RAM 与 NVMe 间调度专家权重。
langfuse
综合 53
开源 Agent 评估与可观测性平台，用于追踪、评估和持续改进 LLM 应用。
kimi-k3-in-c
综合 53
纯 C99 实现的 Kimi K3 推理，无需 GPU、BLAS 或任何框架，单 CPU 和 8.24 GB 内存即可运行。
InvokeAI
综合 51
基于图像与视频生成模型的 AI 创意引擎，帮助专业人士与创作者利用前沿 AI 技术生成视觉媒体内容。
smile
综合 51
高性能统计机器智能与机器学习引擎（SMILE）。
LocalAI
综合 49
开源 AI 引擎，可在各类硬件上运行 LLM、视觉及语音等模型，无需 GPU。
quip-solver
综合 48
quip 网络挖矿技术栈，包含协调器并连接所有官方 quip 网络矿工。
Strata
综合 47
消费级硬件上的本地推理引擎，支持 Windows/Linux 一键部署及 OpenAI 兼容 API。
quivr
综合 47
将持续内容流转化为搜索与监控的开源引擎，支持混合搜索、告警与插件扩展。
vllm （大模型推理与服务引擎）
综合 47
面向 LLM 的高吞吐量、低显存占用的推理与服务引擎。
Agent 原生数据库，已演进为上下文基础设施的 RAG 引擎。
MNN
综合 47
阿里开源的极速轻量级深度学习推理引擎，专为端侧 LLM 和边缘端 AI 高性能运行打造。
ComfyUI （节点式 AI 绘图工作流工具）
综合 45
基于节点流程图的扩散模型 GUI 与后端工具，支持 API 调用，用于灵活、模块化地进行本地 AI 内容生成与推理。