登录 注册

LlamaFactory

去点 Star
AI 模型与开发框架
76,004
Stars
0
Forks
0
Watchers
0
Open Issues
未知
许可证
Python
语言
创建时间
最近更新

项目能做什么

统一高效的大模型微调框架,支持 100+ 种 LLM 与 VLM 的高效微调(ACL 2024)。
来源:AI 基于仓库事实生成 · 内容以仓库实际 README 为准

使用说明 查看原始 README 原仓库文档

中文使用说明暂未生成。下面保留原仓库 README 摘录,命令与配置均以原文为准。
原始 README 摘录(英文原文,节选前 3000 字符)
![# LlamaFactory](assets/logo.png)

[![GitHub Repo stars](https://img.shields.io/github/stars/hiyouga/LlamaFactory?style=social)](https://github.com/hiyouga/LlamaFactory/stargazers)
[![GitHub last commit](https://img.shields.io/github/last-commit/hiyouga/LlamaFactory)](https://github.com/hiyouga/LlamaFactory/commits/main)
[![GitHub contributors](https://img.shields.io/github/contributors/hiyouga/LlamaFactory?color=orange)](https://github.com/hiyouga/LlamaFactory/graphs/contributors)
[![GitHub workflow](https://github.com/hiyouga/LlamaFactory/actions/workflows/tests.yml/badge.svg)](https://github.com/hiyouga/LlamaFactory/actions/workflows/tests.yml)
[![PyPI](https://img.shields.io/pypi/v/llamafactory)](https://pypi.org/project/llamafactory/)
[![Citation](https://img.shields.io/badge/citation-1000+-green)](https://scholar.google.com/scholar?cites=12620864006390196564)
[![Docker Pulls](https://img.shields.io/docker/pulls/hiyouga/llamafactory)](https://hub.docker.com/r/hiyouga/llamafactory/tags)

[![Twitter](https://img.shields.io/twitter/follow/llamafactory_ai)](https://twitter.com/llamafactory_ai)
[![Discord](assets/thirdparty/discord.svg)](https://discord.gg/rKfvV9r9FK)
[![WeChat](https://img.shields.io/badge/WeChat-User%20Group-blue?logo=wechat)](https://github.com/hiyouga/llamafactory-community)
[![Blog](https://img.shields.io/badge/Hugo-Official%20Blog-blue?logo=hugo)](https://blog.llamafactory.net/en/)

[![Open in Colab](assets/thirdparty/colab.svg)](https://colab.research.google.com/drive/1eRTPn37ltBbYsISy9Aw2NuI2Aq5CQrD9?usp=sharing)
[![Open in DSW](assets/thirdparty/dsw.svg)](https://gallery.pai-ml.com/#/preview/deepLearning/nlp/llama_factory)
[![Open in Spaces](https://img.shields.io/badge/🤗-Open%20in%20Spaces-blue)](https://huggingface.co/spaces/hiyouga/LLaMA-Board)
[![Open in Studios](https://img.shields.io/badge/ModelScope-Open%20in%20Studios-blue)](https://modelscope.cn/studios/hiyouga/LLaMA-Board)
[![Open in Novita](https://img.shields.io/badge/Novita-Deploy%20Template-blue)](https://novita.ai/templates-library/105981?sharer=88115474-394e-4bda-968e-b88e123d0c47)

### Used by [Amazon](https://aws.amazon.com/cn/blogs/machine-learning/how-apoidea-group-enhances-visual-information-extraction-from-banking-documents-with-multimodal-models-using-llama-factory-on-amazon-sagemaker-hyperpod/), [NVIDIA](https://build.nvidia.com/spark/llama-factory), [Aliyun](https://help.aliyun.com/zh/pai/use-cases/fine-tune-a-llama-3-model-with-llama-factory), etc.

----

<div align="center" markdown="1">

### Check our new open-source project —<br>🐧 [PenguinHarness](https://github.com/Prism-Shadow/penguin-harness): Local-first multi-agent app development platform - create, fine-tune, deploy AI apps automatically!

Follow us and give us a star ⭐: https://github.com/Prism-Shadow/penguin-harness

</div>

https://github.com/user-attachments/assets/9b7033e8-f08a-4c3f-bd33-547896664e6e

----

<div align="center" markdown="1">

### Supporters ❤️

| <div style="text-a
阅读完整原文

商业机会分析 AI 生成

企业级私有化微调平台与商业支持服务

产品构想基于 LlamaFactory 核心能力,为企业客户提供多租户算力调度、权限控制、合规审计、任务排队的私有化闭源扩展版,并提供企业级 SLA 技术支持。
核心功能RBAC多租户权限体系、集群多机多卡调度优化、数据加密与合规审计日志、企业级监控告警看板、专属专家技术支持通道。
目标用户有数据合规要求且需自建大模型训练底座的中大型企业、金融机构及政企客户。
难度/周期高 · 3-6个月 · 成本:高(需要深厚的多卡分布式训练调试经验、企业级软件架构能力及销售渠道投入)
收费模式软件授权费(License/按节点或集群规模)+ 年度维保服务费 + 定制交付费。
竞争风险开源版本功能持续迭代可能削弱商业版优势;销售周期长且依赖售前方案与私有部署交付能力。
依据 已验证事实(Amazon、NVIDIA、Aliyun等知名云厂商已将该项目用于微调方案中,企业关注度极高)

算力厂商及云平台生态适配与联合解决方案

产品构想与国产芯片厂商(如昇腾、寒武纪、摩尔线程等)或云算力平台合作,提供软硬件一体微调镜像、算子优化与基线调优服务。
核心功能定制化芯片适配加速补丁、开箱即用云市场镜像、算力性能压测基准、跨硬件微调兼容方案。
目标用户算力基础设施提供商、AI云平台、芯片厂商开发者生态部门。
难度/周期中等偏高 · 2-4个月 · 成本:中(需硬件适配样机与深度底层算子调试能力)
收费模式生态合作专项采购费、云市场镜像抽成/按调用量计费、联合解决方案收益分成。
竞争风险依赖芯片厂商的商务拓展与生态预算,硬件兼容维护成本高。
依据 已验证事实(README中已明确支持AMD GPU、昇腾NPU及阿里云PAI-DSW等生态)

垂直领域大模型微调培训与技术咨询服务

产品构想依托项目极高声誉,面向企业技术团队开展实战微调培训、模型选型评估及复杂垂类微调咨询落地(推测)。
核心功能SFT/DPO/RLHF全流程标准化课件、行业数据集构建规范模板、端到端模型部署实践手册、一对一答疑与Code Review。
目标用户传统行业转型AI团队、中小企业技术骨干、初级大模型应用开发工程师。
难度/周期低 · 2-4周 · 成本:低(主要为人力时间成本及课件物料研发)
收费模式企业内训采购费、公开技术训练营门票、按小时或项目结算的咨询服务费。
竞争风险交付偏人力密集型,规模化复制受限;微调前沿技术变动极快需持续更新内容。
依据 数据支持的判断(超7.5万Star及活跃社群,存在庞大且直接的学习与技术指导需求)
AI 基于仓库公开数据分析生成,含推测成分,不构成收益承诺。
报告会保存到 个人中心

竞品与相似项目 GitHub Search 真实检索

项目中文简介Stars语言
FlyAIBox/Agent_In_Action 中文介绍暂未生成
Agentic AI 智能体开发实战
215 Jupyter Notebook
NVIDIA/workbench-llamafactory 中文介绍暂未生成
This is an NVIDIA AI Workbench example project that demonstr
74 Jupyter Notebook
llama-factory/llamafactory 中文介绍暂未生成
llamafactory blog
55 Python
DummyV07/Llamafactory_FT_Qwen 中文介绍暂未生成
基于Llamaindex微调qwen2.5-7b
40 Jupyter Notebook
hiyouga/llamafactory-blog 中文介绍暂未生成
12 Shell
AYUE-Q/beginner-dl-dify-llamafactory 中文介绍暂未生成
面向小白的深度学习实践入门教程:本地环境部署指南、Dify应用搭建详解、LLaMA Factory模型微调实战。提供开箱
12 CSS
以上为通过 GitHub 官方 Search API 检索的相似项目,功能差异与优劣势需进一步人工确认,配置 AI 后可生成对比分析。

项目优势与风险

技术成熟度创建于 ,最近推送 ,发布过 36 个 Release
社区活跃Star 76,004 / Fork 0 / Issue 0(数据支持,可自行核实)
许可证未检测到(需人工确认)
主要风险上游项目方向可能变化;同赛道竞争者较多(见竞品表);热度与需求不完全等价

安装与使用

快速开始(以仓库 README 为准)
git clone https://github.com/hiyouga/LlamaFactory.git
cd LlamaFactory
# 请阅读仓库 README 获取确切安装步骤(依赖、配置、启动命令)
阅读原仓库文档
术语说明:Docker=应用容器(把程序和依赖打包运行);API Key=调用外部服务的密钥;Git Clone=把仓库代码下载到本地。常见错误:API Key 未配置 / 端口占用 / 数据库连接失败,多数项目在 README 的 Troubleshooting 章节有说明。