QPython 中文文档 下载 App

QPython 本地 AI 模型下载——如何把大模型拉到手机上

下载模型的两种方式

方式一：QPython AI 界面（推荐）

QPython 4.0 的 AI 功能入口通常有一个模型管理页面，列出了支持的模型和各自的大小、量化版本。点一下「下载」按钮即可，下载完成后自动注册到 Ollama 服务。

优点：

方式二：Ollama CLI 或 Python

如果界面不方便，或者想下载官方列表之外的模型，可以用命令行：

import subprocess
subprocess.run(["ollama", "pull", "llama3.2:1b"])

或者用 Python SDK：

import ollama
ollama.pull("llama3.2:1b")

ollama pull 从 Ollama 官方仓库拉取模型文件到本地。

模型大小和手机存储

这是移动端最现实的问题。几个常见模型的量化版本参考大小：

模型量化版本大小说明
Llama 3.21B Q4_K_M~0.6 GB最小的 Llama 3.x 版本
Llama 3.23B Q4_K_M~1.8 GB性能和体积的平衡点
Phi-43.8B Q4_K_M~2.3 GB微软开源，代码能力强
DeepSeek-R11.5B Q4_K_M~0.9 GB推理能力突出
DeepSeek-R17B Q4_K_M~4.1 GB更大更强但更慢
Gemma 22B Q4_K_M~1.4 GBGoogle 开源

存储建议：

下载过程注意事项

用 Wi-Fi 下载

模型文件动辄几个 GB，用手机流量下载会花光流量。务必在 Wi-Fi 环境下下载。

下载时间

取决于 Wi-Fi 速度和模型大小。一个 2GB 的模型在 100Mbps Wi-Fi 下大约需要 2~5 分钟。

下载中断

如果下载过程中断，再次执行 ollama pull 会自动续传（Ollama 支持断点续传）。不用担心丢了一半白下。

查看已下载的模型

import subprocess
result = subprocess.run(["ollama", "list"], capture_output=True, text=True)
print(result.stdout)

输出类似：

NAME           ID              SIZE    MODIFIED
llama3.2:1b    fc96f1475098    1.6 GB  2 weeks ago
phi4:latest    7b3a7d3f0c65    2.3 GB  3 days ago

切换模型

不同场景用不同模型——不需要每次都下载新模型。调用时指定模型名即可：

# 简单问答用小模型，速度快
ollama.chat(model="llama3.2:1b", messages=...)

# 代码生成用更强的模型
ollama.chat(model="phi4", messages=...)

模型名可以带标签（如 :1b、:latest），也可以不带。不带标签时默认用 latest。

删除不用的模型

清理模型释放存储空间：

import subprocess
subprocess.run(["ollama", "rm", "旧模型名"])

或者在 QPython 的 AI 管理界面里点删除按钮。

关于模型存储位置

模型文件默认存在 QPython 私有目录（通常是 /Android/data/org.qpython.qpy/files/ai/）。这个目录：

如果想备份模型到电脑或云盘，可以用 QPython 的文件浏览器定位并复制。

手机上跑模型的速度参考

速度取决于手机 CPU 和 RAM。以下是大致参考范围（每秒 token 数）：

手机档位1B 模型3B 模型7B 模型
中高端（骁龙 8 Gen 2）20~30 token/s10~15 token/s3~5 token/s
中端（骁龙 7 系）10~20 token/s5~10 token/s1~3 token/s
入门5~10 token/s2~5 token/s基本不可用

20 token/s 大约相当于每秒输出 15~20 个中文字符，日常问答和简单代码生成完全够用。

小结

模型下载是用 QPython 本地 AI 的第一步。核心建议是先用 Wi-Fi 下载、优先 1B~3B 的量化模型、同时只留 2~3 个常用模型。存储空间和算力都是有限资源，不需要追最新最大的模型——手机上 3B 模型的实际体验可能比 7B 模型更好。

接下来看 LangChain 支持 了解如何用 Python 构建 AI 应用。