unslothaiAI 应用

unsloth

在 Windows、macOS 和 Linux 本地运行、微调与部署大语言模型及扩散模型的桌面与开发工具。

  • 后端
  • 全栈
  • 数据
  • AI 编程
  • 桌面
  • Web
  • CLI
  • Windows
  • macOS
  • Linux
  • 支持本地运行
  • 支持 Docker
unsloth 截图
社区热度
77.1k Stars
GitHub 收藏
最近活跃
2026/10/1
近 30 天还在更新
授权协议
APACHE-2.0
宽松协议

为什么值得关注

不是看 Star 排名,而是看它解决了什么问题、实际有没有用,以及方法为什么值得关注。

近 90 天

解决的问题

本地运行和微调大模型及扩散模型通常需要复杂的环境配置,并且显存消耗巨大,该项目针对这一痛点提供了桌面客户端和一体化开发工具。

实际价值

提供了桌面端、网页端和核心库等多种形态,支持跨平台运行、模型微调、数据集处理以及多种常见 AI 代理的快速连接。

创新 / 差异化

通过特定的微调优化算法降低了显存占用并提升了速度,同时将桌面应用、本地模型服务和多类型硬件适配进行了较好的整合。

扩展潜力

能够与 Claude Code、Codex 等开发代理和 OpenAI 兼容的 API 接口深度集成,便于开发者在本地构建各类 AI 应用工作流。

为什么是现在

当前本地化大模型部署与开发需求旺盛,硬件生态逐步完善,推出跨平台桌面级微调与运行工具正逢其时。

社区活跃度

近 90 天新增 1056 个 Issue、4453 个 PR;窗口内抽取的 Issue/PR 样本中有 70 位 Issue 发起者、23 位 PR 贡献者,并发布 至少 30 个版本。

维护者响应

窗口内 98 个 Issue 样本关闭率 82%,98 个 PR 样本合并率 84%。维护者评论样本仅覆盖该 Issue 样本的 29%,不足以可靠判断首次响应率与响应速度。

PR 样本 23 位贡献者至少 30 次 ReleasePR 合并率 84% · 98 条窗口样本

核心亮点

  • 本地运行和训练 LLM、扩散、嵌入与音频模型
  • 支持 LoRA、QLoRA、强化学习及全量微调等训练方式
  • 可导出 GGUF、FP8 等格式,并提供 OpenAI 兼容 API

快速开始

安装方式、上手难度、开始步骤。

装在哪

本地运行

难不难

容易,照着走就行

支持 Docker支持本地运行
  1. 01从 README 提供的下载入口获取对应 Windows、macOS 或 Linux 的 Unsloth Desktop 安装包。
  2. 02安装并启动桌面应用,在本机选择或加载要运行的模型。
  3. 03需要训练或 Agent 集成时,再按官方文档配置微调流程、导出格式或 unsloth start 命令。

更适合谁

  • 想在本机直接跑起来试用的开发者
  • 习惯用 Docker 部署的人

更多介绍

Unsloth 把本地模型运行与训练放进同一套工具中。项目提供原生桌面应用、Studio Web UI 和代码方式,可在 Windows、macOS、Linux 上运行,并覆盖 LLM、扩散、嵌入和音频模型。README 还给出了 LoRA、QLoRA、强化学习、模型导出以及 OpenAI 兼容 API 等使用路径,适合需要在自己的机器上完成模型实验、微调和部署的开发者。

信息来源

每条信息都标注了状态与出处,可展开查看。

12 条 · 展开
  • capability tags

    已核验

    ai_coding

    来源: manual_curator · README manually reviewed for release curation · 2026/8/17

  • 最新版本

    已核验

    v0.1.900-beta

    来源: GitHub 官方接口 · latest_release=v0.1.900-beta · 2026/10/1

  • 许可证

    已核验

    Apache-2.0

    来源: GitHub 官方接口 · license.spdx_id=Apache-2.0 · 2026/10/1

  • needs api key

    已核验

    否

    来源: manual_curator · README manually reviewed for release curation · 2026/8/17

  • 一句话用途

    已核验

    {"en":"A desktop and developer toolkit for running, fine-tuning, and deploying language and diffusion models locally on Windows, macOS, and Linux.","zh":"在 Windows、macOS 和 Linux 本地运行、微调与部署大语言模型及扩散模型的桌面与开发工具。"}

    来源: manual_curator · README manually reviewed for release curation · 2026/8/17

  • 平台

    已核验

    windows、macos、linux

    来源: manual_curator · README manually reviewed for release curation · 2026/8/17

  • 分类线索

    根据材料推断

    ai-apps

    来源: 项目说明文档 · hint=ai-apps · 2026/8/17

  • product forms

    已核验

    desktop、web、cli

    来源: manual_curator · README manually reviewed for release curation · 2026/8/17

  • role tags

    已核验

    backend、fullstack、data

    来源: manual_curator · README manually reviewed for release curation · 2026/8/17

  • supports docker

    已核验

    是

    来源: 仓库文件 · dockerfile=true; compose=false · 2026/10/1

  • supports local

    已核验

    是

    来源: manual_curator · README manually reviewed for release curation · 2026/8/17

  • supports self host

    已核验

    否

    来源: manual_curator · README manually reviewed for release curation · 2026/8/17

根据分类、能力和适用角色匹配的其他已核验项目。