首页 离线 AI 角色扮演

离线 AI 角色扮演:模型跑在手机上

PokiTavern v1.1.2 · Android 7.0+ · 最后更新 2026-07-26

离线 AI 角色扮演,指的是模型在你手机内部算出回复,射频关掉也照跑。PokiTavern 把推理引擎装在应用里,你只需在 Wi-Fi 下把一个小模型下载一次,之后在飞机上、 隧道里,甚至拔掉 SIM 卡,对话都能继续。

应用
PokiTavern 1.1.2,Android 7.0 及以上,202 MB
模型
应用内免费下载,614 MB 到 3.66 GB
费用
免费,无账号,无消息额度,无订阅
数据
手机本地 SQLite

1.什么才算真的离线?

有两种做法都被叫作离线,但只有一种在断网后还活着。手机连回家里那台 PC、打个 隧道过去,或者接桌上的 Ollama,这些确实把提示词挡在了大模型厂商之外,隐私是 真的。可手机仍然需要一条通往那台机器的路。

出了门、上了飞机、隧道断了,这一类就哑了。PokiTavern 把模型放在你手里这台 手机上,没有路可断。私密和离线的区别就在这儿。

2.是不是得先下模型?

是,这一点得说白。202 MB 的安装包里装的是 LiteRT 推理引擎(约 25 MB)、四个 高通 NPU 后端(约 44 MB)、三套 ABI 的 Flutter 运行时、应用对外提供的 SillyTavern 前端(14.9 MB),以及 16 MB 的种子内容。没有语言模型。

首次使用时在应用内挑一个,走 Wi-Fi 下载,免费,来自公开的 Hugging Face 镜像: Qwen3 0.6B 约 614 MB,Gemma 4 E2B 约 2.59 GB,Gemma 4 E4B 约 3.66 GB。也可以 直接粘贴任意公开 .litertlm 文件的地址。下载完成之后,才谈得上 飞行模式可用。

3.装在手机里的模型,水平怎么样?

小,而且看得出来小。三个里最大的那个在磁盘上约 3.66 GB,放到云端的尺度里几乎 不算什么。它们能在几个来回里稳住角色的口吻;应用加载它们时用的是适合手机的上下文 长度,而不是模型的原生窗口,因为按原生窗口开 KV 缓存,手机内存装不下。场景一长, 先撑不住的就是它们。

所以把端侧模型当成随时都有的那一杯,而不是大模型的替代品。哪一局值得更好的 待遇,同一个应用可以接 OpenAI、Claude、Gemini、OpenRouter 兼容的端点,也能接 Ollama 这类本地端点。key 你自己带,费用直接付给上游。

4.要花钱吗?有什么东西离开手机?

不花钱,也没有东西离开。没有订阅,没有消息条数上限,不用注册账号,不发遥测。 角色、聊天、预设、世界书都在手机本地的 SQLite 里。用端侧模型时,压根没有一个 可以发送提示词的对象,所以什么也没发出去。

只有当你自己接上 API key,账单才会出现,而且是出现在你的上游服务商那边,不在 我们这里。PokiTavern 不会坐在你和你选的模型中间。

5.开始之前需要什么

PokiTavern 暂未上架 Google Play。已签名的 APK、sha256 摘要和更新说明都在 下载页

PokiTavern 与 SillyTavern 开源项目没有隶属关系。它内嵌了一个实现 SillyTavern 1.18 API 的服务端,并在其上提供该项目的官方前端。

6.常见问题

完全断网还能聊吗?

模型下载完成之后可以。下载完成之前应用没有可跑的模型。之后回复由手机自己算出来,飞行模式、隧道里、拔掉 SIM 卡,对话都不受影响。

模型在安装包里吗?

不在。202 MB 装的是 LiteRT 推理引擎、四个高通 NPU 后端、三套 ABI 的 Flutter 运行时、内嵌的 SillyTavern 前端和种子内容。模型要在应用内单独下载,免费。

要注册账号或者自备 API key 吗?

都不要。端侧模型不需要 key,不用登录,没有订阅,也没有消息条数限制。API key 是可选项,留给你想换个更大的云端模型的时候。

手机上的小模型比得上云端大模型吗?

比不上。手机尺寸的模型能在短对话里稳住角色口吻,回话也快;长上下文和复杂场景是云端大模型更擅长的事。PokiTavern 让你在同一个应用里两边都能用。

角色和聊天记录存在哪?

存在手机本地的 SQLite 数据库里。没有账号可挂靠,不会同步到我们的服务器,应用也不发遥测数据。

iPhone 能这么用吗?

目前不能。PokiTavern 是安卓应用,App Store 上暂时还没有 iOS 版。同一 Wi-Fi 下的 iPhone 可以打开安卓手机提供的地址,但那是共用一个会话,不是 iPhone 自己离线在聊。

顺带一读:在安卓上运行 SillyTavern把这条路 和 Termux、远程服务端摆在一起比;局域网模式把同一台手机 变成家里平板和笔记本的服务端;iOS 页面说明 iPhone 版目前是什么状况;中文文档里有角色卡、世界书和采样参数的详细说明。