QPython Ollama 框架集成——手机上跑大语言模型

4.0 版本的最大升级

QPython 4.0 相比之前版本最大的变化，就是内置了本地 AI 能力。具体来说，它集成了 Ollama 框架——一个轻量级的本地大语言模型运行时，可以在手机上直接下载和运行开源大模型，不需要联网、不需要远程 API Key。

这意味着你现在可以在手机上：

用 Python 调用本地运行的 LLM（不需要网络）
结合 LangChain 构建 RAG（检索增强生成）应用
结合 Python 脚本做自动化 AI 任务
调试 AI 应用原型（在手机上先跑通逻辑）

Ollama 是什么

Ollama 是一个开源工具，专注于在本地运行大语言模型。它的特点是：

单文件安装，不需要复杂配置
模型量化：把大模型压缩到手机能跑的程度（如 1.5B 参数模型量化后只需约 1GB）
统一 API：提供 HTTP API 和 Python SDK 两种调用方式
模型仓库：ollama.com 上有数百个预打包好的模型

QPython 把 Ollama 的运行时内置到 App 里，用户不需要单独安装 Ollama——打开 QPython 的 AI 功能入口就能用。

QPython 支持哪些模型

根据应用商店的描述，QPython 4.0 至少支持以下模型：

模型	规模	说明
Llama 3.3	不同大小可选	Meta 开源，目前社区最流行的开源模型之一
DeepSeek-R1	不同大小可选	中国团队开源的推理模型，数学/编程能力强
Phi-4	中等	微软开源，小身材大能力
Mistral	不同大小可选	Mistral AI 开源，性能强
Gemma 2	不同大小可选	Google 开源

具体能跑哪些模型取决于手机内存大小——模型越大、参数越多，占用的 RAM 越多，推理速度也越慢。手机上建议用 1B~3B 规模的量化模型。

如何在 Python 脚本里调用

Ollama 提供了标准的 HTTP API（默认端口 11434），QPython 里可以用 requests 库或 Ollama 的 Python SDK 调用：

方式一：HTTP API

import requests

# 确保 Ollama 服务已启动
response = requests.post("http://localhost:11434/api/chat", json={
    "model": "llama3.2",
    "messages": [{"role": "user", "content": "用 Python 写一个斐波那契函数"}],
    "stream": False
})
reply = response.json().get("message", {}).get("content", "")
print(reply)

方式二：Ollama Python SDK

先在 QPYPI 里装 ollama 包：

import ollama

response = ollama.chat(
    model="llama3.2",
    messages=[{"role": "user", "content": "Python 和 JavaScript 哪个更适合新手？"}]
)
print(response["message"]["content"])

两种方式的效果一样。HTTP API 更通用（不依赖 SDK），SDK 写起来更简洁。

Ollama 服务的启动

QPython 4.0 内置了 Ollama 服务的运行入口：

在 QPython 主界面的 AI 扩展区域找到「启动 Ollama」按钮
第一次使用时点击启动，等待服务就绪（几秒到几十秒）
启动后 localhost:11434 端口就可以访问了
后续使用时如果 Ollama 还在运行，可以直接调用

如果 Ollama 服务没启动就调用 API，会报连接拒绝的错误（Connection refused）。

和在线 AI API 的对比

特性	QPython 内置 Ollama	在线 API（OpenAI / 豆包等）
需要网络	下载模型需要，推理不需要	全程需要
需要 API Key	不需要	需要
数据隐私	所有数据留在手机	发到远程服务器
速度	慢（手机算力）	快（云端算力）
模型大小	只能跑小模型（1B~3B）	任意大小
成本	一次性下载模型	按 token 计费

最佳搭配：日常用手机上的小模型做轻量推理和原型调试；需要大模型能力时用 PC + 在线 API。

小结

Ollama 集成是 QPython 4.0 最有革命性的升级——第一次让「移动端 Python + 本地大模型」这个组合变成现实。虽然手机算力有限、只能跑小模型，但在隐私保护、离线使用、轻量原型调试这几个场景下价值巨大。HTTP API 调用方式和 PC 上完全一致，写好的代码可以无缝迁到 PC 上跑大模型。

接下来看模型下载了解如何把模型拉到手机上。