搜索结果：llms（60 个）
按分类缩小范围
textgen
综合 62
本地 LLM 开源桌面端，支持文本、视觉与工具调用，提供兼容 OpenAI/Anthropic 的 API。
AstrBot
综合 60
支持接入多款 IM 平台与 LLM 的 AI Agent 助手及扩展开发框架。
JARVIS
综合 60
微软开源的协同系统，用于将 LLM 与各类开源机器学习社区模型连接调用。
Made-With-ML
综合 58
面向生产级 ML 应用的设计、开发与部署实战学习指南。
FastGPT
综合 57
基于 LLM 的知识库问答平台，提供数据处理、RAG 检索及可视化 AI 工作流编排。
repomix
综合 57
将整个代码仓库打包为便于 AI 读取的单一文件的工具，方便喂给 LLM 等 AI 工具。
gpt4all （本地大模型运行工具）
综合 57
支持在任意设备上本地运行 LLM 的开源工具，允许免费商业使用。
llm-course （大语言模型入门实战课程）
综合 56
包含学习路线图与 Colab Notebook 的大语言模型（LLM）入门课程。
langchain （大模型应用开发框架）
综合 55
〔中文简介暂未生成〕 Elixir implementation of a LangChain style framework that lets Elixir projects integrate with and leverage LLMs.
evals
综合 53
用于评估 LLM 及其系统的开源框架，并提供基准测试集。
Everywhere
综合 53
感知桌面屏幕上下文的 AI 助手，结合多 LLM 与 MCP 工具跨应用操作。
langextract
综合 51
基于 LLM 从非结构化文本中提取结构化信息的 Python 库，支持精确原文溯源与交互式可视化。
BitNet
综合 51
微软官方出品，针对 1-bit LLM 的推理框架。
LocalAI
综合 49
开源 AI 引擎，可在各类硬件上运行 LLM、视觉及语音等模型，无需 GPU。
unsloth （本地模型运行与训练工具）
综合 49
运行和训练 LLM 与扩散模型的本地 UI，支持 GGUF、MLX、FLUX 等多种格式与模型架构。
vllm （大模型推理与服务引擎）
综合 47
面向 LLM 的高吞吐量、低显存占用的推理与服务引擎。
LlamaFactory
综合 47
统一高效的大模型微调框架，支持 100+ 种 LLM 与 VLM 的高效微调（ACL 2024）。
MNN
综合 47
阿里开源的极速轻量级深度学习推理引擎，专为端侧 LLM 和边缘端 AI 高性能运行打造。
llamafile
综合 45
通过单个文件分发并运行 LLM。
dive-into-llms
综合 44
《动手学大模型Dive into LLMs》系列编程实践教程。