登录 注册
AI 模型与开发框架
79,336
Stars
0
Forks
0
Watchers
0
Open Issues
未知
许可证
Python
语言
创建时间
最近更新

项目能做什么

运行和训练 LLM 与扩散模型的本地 UI,支持 GGUF、MLX、FLUX 等多种格式与模型架构。
来源:AI 基于仓库事实生成 · 内容以仓库实际 README 为准

使用说明 查看原始 README 原仓库文档

中文使用说明暂未生成。下面保留原仓库 README 摘录,命令与配置均以原文为准。
原始 README 摘录(英文原文,节选前 3000 字符)
<h1 align="center" style="margin:0;">
  <a href="https://unsloth.ai/docs"><picture>
    <source media="(prefers-color-scheme: dark)" srcset="https://raw.githubusercontent.com/unslothai/unsloth/main/images/unsloth%20logo%20white%20text.png">
    <source media="(prefers-color-scheme: light)" srcset="https://raw.githubusercontent.com/unslothai/unsloth/main/images/unsloth%20logo%20black%20text.png">
    <img alt="Unsloth logo" src="https://raw.githubusercontent.com/unslothai/unsloth/main/images/unsloth%20logo%20black%20text.png" height="80" style="max-width:100%;">
  </picture></a>
</h1>
<h3 align="center" style="margin: 0; margin-top: 0;">
Unsloth is the first desktop app to run and train models.
</h3>

<p align="center">
  <a href="#-features">Features</a> •
  <a href="#-get-started">Quickstart</a> •
  <a href="#-free-notebooks">Notebooks</a> •
  <a href="https://unsloth.ai/docs">Documentation</a>
</p>

<p align="center">
  <a href="https://unsloth.ai/docs/desktop">
    <img height="400" alt="unsloth desktop" src="https://unsloth.ai/cgi/image/unsloth_qwen3.8_final_ut2eqWnYJ-SLmu0s7x522.png?format=raw" />
  </a>
</p>

## ⚡ Get started
Download the native Unsloth Desktop app for your operating system:
<table>
  <tr>
    <td><b>Platform</b></td>
    <td><b>Link</b></td>
  </tr>
  <tr>
    <td><b>Windows</b></td>
    <td><a href='https://github.com/unslothai/unsloth/releases/latest/download/Unsloth-Desktop-Windows.exe'>Download</a></td>
  </tr>
  <tr>
    <td><b>macOS</b></td>
    <td><a href='https://github.com/unslothai/unsloth/releases/latest/download/Unsloth-Desktop-MacOS.dmg'>Download</a></td>
  </tr>
  <tr>
    <td><b>Linux / Ubuntu (deb)</b></td>
    <td><a href='https://github.com/unslothai/unsloth/releases/latest/download/Unsloth-Desktop-Ubuntu.deb'>Download</a></td>
  </tr>
  <tr>
    <td><b>Linux / Ubuntu (ARM64) (deb)</b></td>
    <td><a href='https://github.com/unslothai/unsloth/releases/latest/download/Unsloth-Desktop-Ubuntu-ARM64.deb'>Download</a></td>
  </tr>
  <tr>
    <td><b>Linux (AppImage)</b></td>
    <td><a href='https://github.com/unslothai/unsloth/releases/latest/download/Unsloth-Desktop-Linux.AppImage'>Download</a></td>
  </tr>
  <tr>
    <td><b>Windows (ARM64)</b></td>
    <td><a href='https://github.com/unslothai/unsloth/releases/latest/download/Unsloth-Desktop-Windows-ARM64.exe'>Download</a></td>
  </tr>
</table>

Download from [Unsloth](https://unsloth.ai/download) or [GitHub Releases](https://github.com/unslothai/unsloth/releases).

Or if you prefer to install manually:

#### macOS, Linux, WSL:
```bash
curl -fsSL https://unsloth.ai/install.sh | sh
```

#### Windows:
```powershell
irm https://unsloth.ai/install.ps1 | iex
```
#### Docker:

The [Unsloth Docker image](https://hub.docker.com/r/unsloth/unsloth) `unsloth/unsloth` is available on Docker. [Read guide.](https://unsloth.ai/docs/get-started/install/docker)

#### Homebrew:
```bash
brew install --cask unsloth
```

#### Winget (Windows):
```powershell
winget install --id
阅读完整原文

商业机会分析 AI 生成

基于 Unsloth 的轻量微调云托管与算力代采购平台

产品构想针对不想配置本地环境/缺高端显卡的用户,封装基于 Unsloth 的网页版工作台,集成按需租赁 GPU 实例(如 RunPod、AutoDL),提供一键上传数据集、参数调优、格式导出(GGUF/Ollama)。
核心功能按需算力调度、Web UI 数据集清洗与校验、Unsloth 微调任务监控、LoRA 权重与 GGUF 自动转换与下载。
目标用户缺乏本地顶级 GPU(如 A100/H100)的个人开发者、学生及小微独立开发团队。
难度/周期中等 · 4-6 周 · 成本:服务器与云算力预付约 2000-5000 元/月,对象存储成本。
收费模式算力加价转售(抽成制)+ 会员订阅费(提供高速存储与预置模板)。
竞争风险官方 Unsloth 自身有云平台合作计划;算力成本管理不当可能出现坏账或资源闲置损失(推测)。
依据 已验证事实

垂直行业小模型专属蒸馏与微调交付服务

产品构想利用 Unsloth 的极速微调能力,面向特定垂直行业(如法律咨询、医疗问答、客服质检),将大模型能力蒸馏至 7B/8B/14B 等开源模型,提供从数据标注指导到模型落地的一体化交付包。
核心功能行业合成数据集清洗脚本、Unsloth 自动化微调流水线、基准测评与幻觉评估报告、单卡/CPU 离线推理镜像包。
目标用户对数据隐私敏感、希望低成本私有化部署专属大模型的中小型实体企业。
难度/周期中等 · 2-4 周(按单交付) · 成本:前期算力与测试成本约 1000-3000 元/项目。
收费模式项目制咨询与定制开发服务费(客单价 2万-10万元不等)。
竞争风险客户数据集质量参差不齐,模型效果评估主观性强,交付验收周期易拖长(AI推测)。
依据 数据支持的判断

端侧/本地私有大模型量化与一键部署客户端

产品构想结合 Unsloth 的 GGUF/MLX 输出能力与前沿桌面 UI(如 Electron/Tauri),开发面向非技术企业员工的本地模型运行与管理客户端,支持本地知识库(RAG)结合与热插拔 LoRA 加载。
核心功能一键拉取与格式转换、纯本地离线推理引擎适配、多模型多LoRA热切换、本地文件知识库检索增强。
目标用户政企内网办公人员、对合规要求极高的设计/文案工作室、边缘设备部署集成商。
难度/周期高 · 6-8 周 · 成本:客户端签名证书、跨平台打包与测试设备购置约 3000-6000 元。
收费模式企业商用授权买断制(Per-seat 或 Per-device 授权码)。
竞争风险竞品(如 LM Studio, Ollama, Jan 等)已具备成熟生态,商业客户端需找到极其明确的差异化功能(尚需验证的假设)。
依据 尚需验证的假设
AI 基于仓库公开数据分析生成,含推测成分,不构成收益承诺。
报告会保存到 个人中心

竞品与相似项目 GitHub Search 真实检索

项目中文简介Stars语言
morluto/rea 中文介绍暂未生成
Reverse engineer anything with agents, from app behavior dow
449,611 TypeScript
mattpocock/skills 中文介绍暂未生成
Skills for Real Engineers. Straight from my .agents director
320,758 Shell
obra/superpowers 中文介绍暂未生成
An agentic skills framework & software development methodolo
315,668 Shell
affaan-m/ECC 中文介绍暂未生成
The agent harness performance optimization system. Skills, i
300,710 JavaScript
NousResearch/hermes-agent 中文介绍暂未生成
The agent that grows with you
262,411 Python
anomalyco/opencode 中文介绍暂未生成
The open source coding agent.
225,874 TypeScript
以上为通过 GitHub 官方 Search API 检索的相似项目,功能差异与优劣势需进一步人工确认,配置 AI 后可生成对比分析。

项目优势与风险

技术成熟度创建于 ,最近推送 ,发布过 86 个 Release
社区活跃Star 79,336 / Fork 0 / Issue 0(数据支持,可自行核实)
许可证未检测到(需人工确认)
主要风险上游项目方向可能变化;同赛道竞争者较多(见竞品表);热度与需求不完全等价

安装与使用

快速开始(以仓库 README 为准)
git clone https://github.com/unslothai/unsloth.git
cd unsloth
# 请阅读仓库 README 获取确切安装步骤(依赖、配置、启动命令)
阅读原仓库文档
术语说明:Docker=应用容器(把程序和依赖打包运行);API Key=调用外部服务的密钥;Git Clone=把仓库代码下载到本地。常见错误:API Key 未配置 / 端口占用 / 数据库连接失败,多数项目在 README 的 Troubleshooting 章节有说明。