离线 AI 角色扮演,指的是模型在你手机内部算出回复,射频关掉也照跑。PokiTavern 把推理引擎装在应用里,你只需在 Wi-Fi 下把一个小模型下载一次,之后在飞机上、 隧道里,甚至拔掉 SIM 卡,对话都能继续。
- 应用
- PokiTavern 1.1.2,Android 7.0 及以上,202 MB
- 模型
- 应用内免费下载,614 MB 到 3.66 GB
- 费用
- 免费,无账号,无消息额度,无订阅
- 数据
- 手机本地 SQLite
1.什么才算真的离线?
有两种做法都被叫作离线,但只有一种在断网后还活着。手机连回家里那台 PC、打个 隧道过去,或者接桌上的 Ollama,这些确实把提示词挡在了大模型厂商之外,隐私是 真的。可手机仍然需要一条通往那台机器的路。
出了门、上了飞机、隧道断了,这一类就哑了。PokiTavern 把模型放在你手里这台 手机上,没有路可断。私密和离线的区别就在这儿。
2.是不是得先下模型?
是,这一点得说白。202 MB 的安装包里装的是 LiteRT 推理引擎(约 25 MB)、四个 高通 NPU 后端(约 44 MB)、三套 ABI 的 Flutter 运行时、应用对外提供的 SillyTavern 前端(14.9 MB),以及 16 MB 的种子内容。没有语言模型。
首次使用时在应用内挑一个,走 Wi-Fi 下载,免费,来自公开的 Hugging Face 镜像:
Qwen3 0.6B 约 614 MB,Gemma 4 E2B 约 2.59 GB,Gemma 4 E4B 约 3.66 GB。也可以
直接粘贴任意公开 .litertlm 文件的地址。下载完成之后,才谈得上
飞行模式可用。
3.装在手机里的模型,水平怎么样?
小,而且看得出来小。三个里最大的那个在磁盘上约 3.66 GB,放到云端的尺度里几乎 不算什么。它们能在几个来回里稳住角色的口吻;应用加载它们时用的是适合手机的上下文 长度,而不是模型的原生窗口,因为按原生窗口开 KV 缓存,手机内存装不下。场景一长, 先撑不住的就是它们。
所以把端侧模型当成随时都有的那一杯,而不是大模型的替代品。哪一局值得更好的 待遇,同一个应用可以接 OpenAI、Claude、Gemini、OpenRouter 兼容的端点,也能接 Ollama 这类本地端点。key 你自己带,费用直接付给上游。
4.要花钱吗?有什么东西离开手机?
不花钱,也没有东西离开。没有订阅,没有消息条数上限,不用注册账号,不发遥测。 角色、聊天、预设、世界书都在手机本地的 SQLite 里。用端侧模型时,压根没有一个 可以发送提示词的对象,所以什么也没发出去。
只有当你自己接上 API key,账单才会出现,而且是出现在你的上游服务商那边,不在 我们这里。PokiTavern 不会坐在你和你选的模型中间。
5.开始之前需要什么
- 一台 Android 7.0 或更高版本的手机。
- 202 MB 应用本体,加上你挑的那个模型的空间。
- 首次下载模型时的一次 Wi-Fi。
- 不需要 Termux、Node.js、家里常开的电脑,也不需要商店账号。
PokiTavern 暂未上架 Google Play。已签名的 APK、sha256 摘要和更新说明都在 下载页。
PokiTavern 与 SillyTavern 开源项目没有隶属关系。它内嵌了一个实现 SillyTavern 1.18 API 的服务端,并在其上提供该项目的官方前端。
6.常见问题
完全断网还能聊吗?
模型下载完成之后可以。下载完成之前应用没有可跑的模型。之后回复由手机自己算出来,飞行模式、隧道里、拔掉 SIM 卡,对话都不受影响。
模型在安装包里吗?
不在。202 MB 装的是 LiteRT 推理引擎、四个高通 NPU 后端、三套 ABI 的 Flutter 运行时、内嵌的 SillyTavern 前端和种子内容。模型要在应用内单独下载,免费。
要注册账号或者自备 API key 吗?
都不要。端侧模型不需要 key,不用登录,没有订阅,也没有消息条数限制。API key 是可选项,留给你想换个更大的云端模型的时候。
手机上的小模型比得上云端大模型吗?
比不上。手机尺寸的模型能在短对话里稳住角色口吻,回话也快;长上下文和复杂场景是云端大模型更擅长的事。PokiTavern 让你在同一个应用里两边都能用。
角色和聊天记录存在哪?
存在手机本地的 SQLite 数据库里。没有账号可挂靠,不会同步到我们的服务器,应用也不发遥测数据。
iPhone 能这么用吗?
目前不能。PokiTavern 是安卓应用,App Store 上暂时还没有 iOS 版。同一 Wi-Fi 下的 iPhone 可以打开安卓手机提供的地址,但那是共用一个会话,不是 iPhone 自己离线在聊。