搜索结果：llm（259 个）
按分类缩小范围
pathway
综合 51
用于流处理、实时分析、LLM Pipeline 和 RAG 的 Python ETL 框架。
smile
综合 51
高性能统计机器智能与机器学习引擎（SMILE）。
BitNet
综合 51
微软官方出品，针对 1-bit LLM 的推理框架。
ruby_llm
综合 50
专为 Ruby 打造的 AI 框架。
LocalAI
综合 49
开源 AI 引擎，可在各类硬件上运行 LLM、视觉及语音等模型，无需 GPU。
unsloth （本地模型运行与训练工具）
综合 49
运行和训练 LLM 与扩散模型的本地 UI，支持 GGUF、MLX、FLUX 等多种格式与模型架构。
Awesome-LLMOps
综合 48
精选的最佳 LLMOps 工具列表，专为开发者打造。
rikkahub
综合 47
RikkaHub 是一款支持多个 LLM 提供商的 Android 应用。
sglang
综合 47
面向大语言模型（LLM）与多模态模型的高性能推理服务框架。
vllm （大模型推理与服务引擎）
综合 47
面向 LLM 的高吞吐量、低显存占用的推理与服务引擎。
LlamaFactory
综合 47
统一高效的大模型微调框架，支持 100+ 种 LLM 与 VLM 的高效微调（ACL 2024）。
MNN
综合 47
阿里开源的极速轻量级深度学习推理引擎，专为端侧 LLM 和边缘端 AI 高性能运行打造。
semantic-kernel
综合 47
帮助开发者快速将前沿 LLM 技术集成到应用程序中的开发框架。
llamafile
综合 45
通过单个文件分发并运行 LLM。
req_llm
综合 44
基于 Req 和 Finch 构建的可组合 Elixir LLM 交互库。
基于 Andrej Karpathy 对大模型写代码误区的观察，提供一个 CLAUDE.md 文件，用于规范并改善 Claude Code 的行为。
hallmark （反AI塑料感设计技能）
综合 44
面向 Claude Code、Cursor 等工具的设计 Skill，旨在消除千篇一律的“AI 模板感”，生成更自然的页面设计。
dive-into-llms
综合 44
《动手学大模型Dive into LLMs》系列编程实践教程。
zinc
综合 44
Zig 推理引擎，支持在 AMD GPU 和 Apple Silicon 上进行本地 LLM 推理。