Off Grid AI 简介
Off Grid AI 是一款面向 Apple Silicon Mac 的本地 AI 应用。你可以从内置目录下载开放模型,或从 Hugging Face 下载任意 GGUF 模型,用于文本和视觉聊天、图像生成、语音识别和文字转语音。所有这些都通过内置的 llama.cpp、stable-diffusion.cpp、whisper.cpp 和 Kokoro 在你自己的硬件上运行,无需云端推理、账号或 API 密钥。匿名使用数据和崩溃报告只有在你开启后才会发送。
项目功能可以将聊天分组、上传文档,并根据你自己的文件给出带引用来源的回答。实时工件会在无法访问网络和文件的沙盒中显示模型生成的 HTML、React、SVG、Mermaid 和 Markdown。聊天还可以使用本地工具和你添加的任何 MCP 连接器。内置网关提供与 OpenAI 兼容的本地 API,让其他应用也能使用相同的模型。Off Grid AI 由 Wednesday Solutions 开发,免费应用基于 AGPL-3.0 许可证开源。它需要 Apple Silicon Mac,其构建设置将 macOS 13 定为最低版本。该应用已签名并通过公证。请做好下载大文件的准备:安装程序约 758 MB,模型还需另外下载。可选的付费版 Off Grid AI Pro 增加了一个常驻层,提供屏幕捕获、记忆和会议录制,可一次性购买或按月订阅。0.0.55 版是维护版本。
主要功能
Off Grid AI 把多种开放模型汇集到一个私密的应用中。
- 聊天:支持流式输出和推理模式的文本与视觉聊天。
- 图像生成:通过 SDXL 和 Stable Diffusion 模型实现文生图和图生图。
- 语音:whisper 语音转文字、Kokoro 文字转语音,以及免提模式。
- 项目:与你的文档对话并获得引用来源。
- 工件:在沙盒中实时显示 HTML、React、SVG、Mermaid 和 Markdown。
- 连接器:添加 MCP 服务器并在聊天中使用。
- 模型目录:精选推荐和 Hugging Face 直接搜索。
- 本地网关:在你自己的 Mac 上提供与 OpenAI 兼容的 API。
0.0.55 版本新功能
Off Grid AI 0.0.55 是维护版本。
- 根据发布说明,此版本没有面向用户的变化。
Off Grid AI 常见问题
Off Grid AI 免费吗?
是的。主应用基于 AGPL-3.0 许可证免费开源。Off Grid AI Pro 是可选的付费升级。
Off Grid AI Pro 增加了什么?
它增加了一个需主动开启的常驻层,提供屏幕捕获、设备端记忆、会议录制和听写。可一次性购买或按月订阅。
Off Grid AI 需要账号或 API 密钥吗?
不需要。免费应用在你自己的设备上运行模型,无需账号或 API 密钥。
Off Grid AI 能在 Intel Mac 上运行吗?
不能。Mac 版仅支持 Apple Silicon。
Off Grid AI 需要哪个版本的 macOS?
该项目的构建设置将 macOS 13 定为最低版本。
Off Grid AI 会把我的数据发送到别处吗?
推理在你的设备上运行,项目方称你的对话、文件和模型绝不会离开设备。匿名使用数据和崩溃报告只有在你开启后才会发送。
我可以使用哪些模型?
你可以从内置目录中选择,也可以使用 Hugging Face 上的任意 GGUF 模型。
我可以和自己的文档对话吗?
可以。项目支持文本、Markdown、PDF 和 DOCX 等文档,并给出带引用来源的回答。
其他应用可以使用 Off Grid AI 中的模型吗?
可以。其本地网关在 http://127.0.0.1:7878/v1 提供无需密钥、与 OpenAI 兼容的 API。
off-grid-ai.FULLMAC.app 上的 Off Grid AI 下载来自哪里?
下载按钮指向 GitHub 上的 Off Grid AI 官方发布页面 https://github.com/off-grid-ai/OGAD/releases/latest。off-grid-ai.FULLMAC.app 不会修改或重新打包该应用。
相似应用
OrkasOrkas 是一款适用于 Mac 和 Windows 的多智能体 AI 桌面应用。你告诉 Commander 需要什么,它会独立完成许多任务;遇到较大的工作时,它会规划步骤并调用专业智能体,以及你已在使用的编程智能体,如 Claude Code、Codex 和 OpenCode。应用内置十六个专业智能体,涵盖调研、写作、幻灯片、图片、视频、语音、办公文件、网站和电商工作。AI
LlamaportLlamaport 是一款用于运行和下载本地 GGUF 语言模型的小型 Mac 应用。它封装了 llama.cpp 项目的 llama-server:列出模型文件夹中的模型,在你按下 Start 之前完整显示启动命令,运行时显示资源占用,并从 Hugging Face 下载新模型,下载在强制退出或重启后仍可继续。它直接读取 GGUF 文件头,因此列表显示的是真实的量化方式、上下文长度和混合专家(MoE)结构,而不是根据文件名猜测的结果。AI
UnfoldlyUnfoldly 是一款 Mac 本地 AI 搜索应用,按你对文件内容的记忆而不是文件名来查找文件。你选择要建立索引的文件夹和文件,它就会在 Mac 上为它们建立可搜索的记忆:文档中的文字、图片里的内容、视频中的片段以及录音的内容。然后你只需描述要找的东西,比如一张狗狗的照片,或者提到某个价格方案的 PDF,并可以继续就找到的文件提问:总结文档、询问视频内容或对比笔记。AI
Claude Usage MonitorClaude Usage Monitor 是一款免费开源的菜单栏应用,用来显示你的 Claude.ai 使用额度还剩多少。随着接近上限,它的图标会从绿色变为橙色再变为红色;旁边的文字会显示当前会话的百分比,或在你使用时按当前速度估算的剩余时间,以及你的每周用量。点击后会打开一个小面板,用进度条分别显示当前会话、所有模型的每周上限,以及 Max 套餐中仅 Sonnet 的用量,每一项都附有距下次重置的倒计时。AI
M-CourtyardM-Courtyard 是一款桌面应用,可在 Apple Silicon Mac 上本地微调大语言模型,无需编写代码。你可以导入文档,将其转换为训练数据集,通过 mlx-lm 使用 Apple 的 MLX 运行 LoRA 微调,在内置聊天中测试结果,然后导出。该项目表示,数据不会离开你的 Mac。AI
EnviousWisprEnviousWispr 是一款用于 Mac 菜单栏的听写应用。在任意应用中按下键盘快捷键并说话,你的话就会在 Mac 上转录,并粘贴到你正在输入的位置。你可以在两种语音模型之间选择:Parakeet Ultra 是默认的快速模型,支持 25 种欧洲语言;Whisper 支持 99 种以上语言,并能自动检测语言。它可离线使用,无需账户或订阅。AI
FULLMAC.app 不托管此应用。下载按钮会将你带到开发者自己的页面。