OneLLM
OneLLM Office连接支持
简体中文 ▾
English简体中文
获取应用 ↗

ONELLM · 使用指南

iPhone 本地 AI:模型下载、电脑连接和云端调用。

在 iPhone 上用 AI,先决定模型在哪里运行:下载到手机、连接电脑上的模型服务,或调用云端 API。Ollama、LM Studio、Hugging Face、ModelScope 与 Qwen、Gemma、MiniMax 分属不同层次,选好模型名字只是第一步。

Ollama、LM Studio:电脑运行,手机访问

Ollama 和 LM Studio 都可以在电脑上提供模型服务。使用这种方式时,模型计算和内存主要在电脑端;手机需要能访问它的服务地址,电脑也需要持续运行。

左右滑动查看完整表格。

方式模型在哪里与 OneLLM 的关系
手机本地模型下载到 iPhone 或 iPad,由设备推理。从应用提供的模型目录选择与设备兼容的文件,下载后可进行离线推理。
Ollama 服务所选模型由电脑服务处理;确认选择的是本地模型还是云模型。OneLLM 提供 Ollama 连接。使用手机可达的电脑地址,先确认模型列表能正常加载。
LM Studio 服务电脑上加载的模型,可通过本机或网络 API 使用。其官方提供 OpenAI 兼容接口;本页未验证 OneLLM 与 LM Studio 的直接连接,不能把 LM Studio 地址当作 Ollama 地址混用。

连接 Ollama 时,手机上的 localhost 指手机自己,不是电脑。请使用正确的电脑局域网地址或已配置好的私有网络地址,并检查电脑防火墙和服务监听设置。无需为此将模型服务直接暴露到公网。具体服务设置见 Ollama API 文档及 LM Studio 服务文档。

Hugging Face、ModelScope:模型文件从哪里来?

下载源和运行环境是两回事。OneLLM 的 Hugging Face 浏览入口用于查找 GGUF 模型文件;部分内置模型提供 Hugging Face 与 ModelScope 下载源。某个仓库可以打开,不代表里面所有文件都能在你的手机上运行。

  1. 先看完整模型名称。确认模型版本、参数规模、量化方式与文件用途,不要只看 Qwen 或 Gemma 这样的系列名称。
  2. 确认手机运行条件。下载文件需要存储空间,推理还需要额外内存;文件大小不能直接当作运行内存。
  3. 检查文件格式与组件。GGUF 是一种模型文件格式,兼容性还取决于模型架构和应用运行引擎。多模态模型可能需要额外视觉文件;下载一个文本文件不等于获得图片理解能力。
  4. 遵守模型访问条件。需要授权或接受条款的仓库,应先按平台要求完成访问。下载失败时核对权限、网络和剩余空间。

文件格式说明见 Hugging Face GGUF 文档。ModelScope 源是否提供,以应用中该模型的下载选项为准;本页不承诺整个 ModelScope 模型库都已接入。

Qwen、Gemma、MiniMax:先区分本地文件与云端入口

左右滑动查看完整表格。

名称在 OneLLM 中如何理解选择时看什么
Qwen模型目录有部分 Qwen 本地条目,也有 Qwen 云端服务入口。两条路径使用不同的资源。本地看具体文件与设备内存;云端看所选区域、账户、模型权限与调用费用。
Gemma模型目录有部分 Gemma 本地条目,例如 Gemma 3 270M。系列名称不代表所有版本均兼容。从安装版本实际列出的模型开始,核对具体架构、格式、大小与使用条件。
MiniMax本指南介绍 OneLLM 中的 MiniMax 云端 API 入口,不将其描述为手机离线运行功能。配置自己的账户与 API Key,确认区域和可用模型;API 调用需要网络,费用由服务方计算。

应用目录与可用选项可能随版本变化。模型供应方资料可参考 Qwen 官方入口、Gemma 官方文档和 MiniMax API 准备说明。OneLLM 是独立客户端,不代表上述品牌。

第一次使用,按这个顺序检查

  1. 先选择本地、电脑服务或云端路径,确认自己希望离线使用还是远程访问。
  2. 从符合设备要求的较小模型或已有可用服务开始,发送一个简短问题。
  3. 核对输出、首字等待时间与设备状态,再逐步增加上下文和任务复杂度。
  4. 如果要处理电脑代码项目,另看 OpenCode 手机连接教程;模型聊天与编程 Agent 会话是不同入口。

查看 OneLLM 手机应用 了解离线 AI 与设备要求 →