中文酒馆圈的黑话不少,同一个词在不同帖子里含义还可能不一样。 这里按社区实际用法整理,标注对应的英文原词,方便你去看英文资料时对得上。
基础
| 中文 | 英文 | 含义 |
|---|---|---|
| 酒馆 | SillyTavern | 前端程序本身。负责管理角色、拼装提示词、发请求、显示回复,不负责生成文字 |
| 角色卡 | Character Card | 存着角色设定的 PNG 图片,数据藏在 tEXt 块里。见角色卡 |
| 世界书 / 世界设定 | Lorebook / World Info | 按关键词触发的设定片段集合。见世界书 |
| 预设 | Preset | 一整套采样参数加提示词结构的存档,可整体切换 |
| 后端 | Backend | 真正跑模型的那一端,可以是云 API,也可以是本机或手机上的推理程序 |
| 上下文 | Context | 一次请求里发给模型的全部文本。有长度上限,超了就要裁 |
| token | token | 模型切分文本的最小单位。中文大致一个字一到两个 token,英文一个词常常也不止一个 |
使用中会遇到的
| 中文 | 英文 | 含义 |
|---|---|---|
| 楼层 | message | 聊天里的一条消息。「删到第 20 楼」即删到第 20 条 |
| swipe / 划 | swipe | 对同一轮重新生成一个回复,可在多个版本间左右切换 |
| 破限 | jailbreak | 让模型放宽自我限制的提示词。在酒馆里通常放在 post_history_instructions,因为那个位置最靠后 |
| 开场白 | first message / greeting | 角色卡自带的第一条消息,对应 first_mes |
| 作者注释 | Author's Note | 硬插在对话靠后位置的一段说明,默认插在倒数第 4 条 |
| 正则 | regex | 酒馆的文本替换功能,可在显示前或发送前改写内容 |
| 群聊 | group chat | 多个角色同处一个对话 |
| 复读 | repetition | 反复输出相同内容。先查 top_k 是不是被设成了 1,再试 DRY |
| 失忆 | — | 模型「忘记」前文。通常是内容已被裁出上下文,不是模型的问题 |
容易混淆的几组
酒馆 ≠ 模型。换酒馆不会让回复变好,换模型才会。酒馆能改变的是发给模型 的内容,不是模型的能力。
预设 ≠ 角色卡。预设管的是「怎么问」,角色卡管的是「问的是谁」。同一张卡 配不同预设,表现可以差很多。
本地模型 ≠ 本地前端。在手机上装酒馆,和在手机上跑模型,是两件独立的事。 前者只要有个前端,后者需要设备真的能跑推理。PokiTavern 两件都做了, 所以能完全离线;只装前端再连远端 API 的方案,断网就用不了。
本文讲的功能,在 PokiTavern 的安卓端可以直接用:它内嵌了一个
SillyTavern 兼容服务端,不用 Termux、不用电脑。项目开源在
GitHub。