- 社区热度
- 182.0k Stars
- GitHub 收藏
- 最近活跃
- 2026/9/30
- 近 30 天还在更新
- 授权协议
- MIT
- 宽松协议
为什么值得关注
不是看 Star 排名,而是看它解决了什么问题、实际有没有用,以及方法为什么值得关注。
解决的问题
解决了本地运行大语言模型门槛高、配置复杂的问题,让开发者和普通用户能快速在个人电脑上部署模型。
实际价值
提供统一的命令行接口和 REST API,并拥有极其丰富的第三方生态集成,是目前本地模型运行的事实标准。
创新 / 差异化
通过极简的安装流程和模型管理方式,将复杂的底层推理引擎封装为易用的服务,极大降低了本地 AI 的使用难度。
扩展潜力
作为中间层,它连接了底层推理库与上层应用,使得开发者能通过简单的 API 调用将本地模型嵌入到各类工具中。
为什么是现在
在本地大模型需求爆发期出现,精准切中了用户对隐私保护和离线运行的需求。
社区活跃度
近 90 天新增 649 个 Issue、1050 个 PR;窗口内抽取的 Issue/PR 样本中有 83 位 Issue 发起者、57 位 PR 贡献者,并发布 至少 29 个版本。
维护者响应
窗口内 95 个 Issue 样本关闭率 48%,94 个 PR 样本合并率 22%。维护者评论样本仅覆盖该 Issue 样本的 29%,不足以可靠判断首次响应率与响应速度。
核心亮点
- 在 Windows、macOS 和 Linux 本地下载并运行模型
- 通过 REST API 调用本机模型服务
- 提供官方 Python 与 JavaScript 客户端
快速开始
安装方式、上手难度、开始步骤。
装在哪
本地运行
难不难
容易,照着走就行
- 01按 README 选择 Windows、macOS 或 Linux 的官方安装方式,也可以使用官方 Docker 镜像。
- 02运行
ollama或ollama run下载并启动需要的模型。 - 03需要集成到应用时,调用本机 REST API,或使用官方 Python / JavaScript 客户端。
更适合谁
- 希望数据放在自己服务器上的团队
- 想在本机直接跑起来试用的开发者
- 习惯用 Docker 部署的人
更多介绍
Ollama 把模型下载、运行和调用集中在本地运行时中,支持 Windows、macOS、Linux,并提供官方 Docker 镜像。用户可以直接用 ollama run 启动模型,也可以通过本机 REST API、Python 或 JavaScript 客户端把模型接入自己的应用。README 还列出了 Claude Code、Codex、Copilot CLI、OpenCode 等集成入口,因此它既可以作为本地聊天模型的运行层,也可以作为开发工具和 Agent 的本地模型后端。
信息来源
每条信息都标注了状态与出处,可展开查看。
12 条 · 展开
信息来源
每条信息都标注了状态与出处,可展开查看。
capability tags
已核验ai_coding
来源: manual_curator · Manually curated from the official repository README and project links. · 2026/8/17
最新版本
已核验v0.35.0
来源: GitHub 官方接口 · latest_release=v0.35.0 · 2026/9/30
许可证
已核验MIT
来源: GitHub 官方接口 · license.spdx_id=MIT · 2026/9/30
needs api key
已核验否
来源: manual_curator · Manually curated from the official repository README and project links. · 2026/8/17
一句话用途
已核验{"en":"A local model runner for Windows, macOS, and Linux with a REST API plus Python and JavaScript clients.","zh":"在 Windows、macOS 和 Linux 本地运行与管理开放模型,并提供 REST API 与 Python/JavaScript 客户端的模型运行工具。"}
来源: manual_curator · Manually curated from the official repository README and project links. · 2026/8/17
平台
已核验windows、macos、linux
来源: manual_curator · Manually curated from the official repository README and project links. · 2026/8/17
分类线索
根据材料推断ai-apps
来源: 项目说明文档 · hint=ai-apps · 2026/8/15
product forms
已核验cli、api_sdk
来源: manual_curator · Manually curated from the official repository README and project links. · 2026/8/17
role tags
已核验backend、fullstack、data
来源: manual_curator · Manually curated from the official repository README and project links. · 2026/8/17
supports docker
已核验是
来源: 仓库文件 · dockerfile=true; compose=false · 2026/9/30
supports local
已核验是
来源: manual_curator · Manually curated from the official repository README and project links. · 2026/8/17
supports self host
已核验是
来源: manual_curator · Manually curated from the official repository README and project links. · 2026/8/17
相关项目
根据分类、能力和适用角色匹配的其他已核验项目。
unsloth
在 Windows、macOS 和 Linux 本地运行、微调与部署大语言模型及扩散模型的桌面与开发工具。
hermes-agent
可在本机、VPS 或云环境运行的个人 AI Agent,支持终端、消息平台、记忆、技能和定时自动化。
omnigent
统一运行、切换和协作多个 AI Agent 的开源编排层,覆盖终端、Web、桌面与云沙箱会话。
ouroboros
Ouroboros 是一个开源、通用的自建构 AI 代理,具备跨任务和重启的持久记忆,能够自主协调专业代理集群并重写自身代码与架构。
Box
一个面向 Android 设备的离线端侧 AI 套件,支持大模型聊天、图像生成和语音交互。
whisper
OpenAI 开发的通用语音识别模型,支持多语言语音转文字、翻译及语言识别。

