
HY
折腾进行时
Hello, I'm HY.








之前一直用各种在线平台跑 AI 角色对话,说实话大部分都差点意思——要么限制多,要么数据不在自己手里,折腾起来也不方便。后来在群里看到有人提”酒馆”,说是开源的,自己部署,想怎么玩就怎么玩。我一想,反正也不难搞,就试试呗。
折腾了一番,把部署过程和踩过的坑记下来,顺便也介绍一下这个东西。
SillyTavern,社区里一般叫”酒馆”,是个开源的网页应用。简单来说,它就是一个前端界面,帮你对接各种 AI 模型(OpenAI、Claude、Gemini、本地模型等等),然后你通过浏览器跟 AI 聊天。
它本身不提供 AI 模型,你需要自己有 API Key 或者跑本地模型。但它的好处是:
酒馆跑起来之后,浏览器打开 127.0.0.1:8000 就能用。
除了基本的聊天,酒馆还能玩不少花样:
不过这些进阶功能先不管,部署好能聊天才是第一步。
我在 Windows 11 上部署的,过程其实不复杂。
先装两个东西:
Node.js:去 nodejs.org 下最新的 LTS 版本装上就行。这是酒馆运行的底层依赖,必须有。注意 Windows 7 不支持,因为跑不了 Node.js 20。
Git:用来下载酒馆代码。可以装 Git for Windows,也可以用 GitHub Desktop。
装好之后可以验证一下,在命令行里输入:
1node -v2git --version能看到版本号就说明装好了。
这个很重要:不要装到 Program Files 或者 System32 这种系统文件夹里。Windows 对这些路径有权限限制,跑起来会出问题。
就找个普通路径放着,比如 D:\SillyTavern 或者 C:\Tools\SillyTavern。
打开文件管理器,导航到你想放启动器的文件夹,在地址栏输入 cmd 回车,然后执行:
1git clone https://github.com/SillyTavern/SillyTavern-Launcher.git && cd SillyTavern-Launcher && start installer.bat双击 Launcher.bat,打开输入1它会自动下载需要的依赖包,然后启动服务。
第一次跑会慢一点,要下载一堆依赖。等命令行窗口里出现类似 SillyTavern is listening on port 8000 的提示,就说明启动成功了。
启动成功后,浏览器会自动打开酒馆界面。如果没有自动打开,手动访问 http://127.0.0.1:8000 就行。
酒馆装好了,下一步就是连上 AI 模型。
酒馆支持好几种模型后端:
在酒馆界面的设置里填上你的 API Key 就能连上,操作不复杂。
打开酒馆后,点上面的”插头”图标(就是那个像电源插头的),进入 API 连接设置。
这里有几个地方要填:
填完之后点”连接”测试一下,能看到绿色的提示就说明连上了。
这些是我折腾过程中遇到的问题,记下来防止以后忘。
这个问题挺常见的。如果你测试连接没问题,但实际发消息的时候报错,很可能是”提示词后处理”没选对。

特别是用 Qwen 之类的模型时,它严格要求消息顺序必须是系统提示词在最前面,然后用户和角色交替发言。如果顺序不对,就会报这种错:

解决办法就是在”提示词后处理”那里选”严格(强制对话角色交替、用户最先)”。
连上之后,建议把参数调一下。上下文长度、最大回复长度、温度这些,直接影响聊天体验。

这些参数不用一开始就调到完美,先用默认值跑起来,后面再根据实际体验慢慢改。
如果你之前跑过酒馆,或者有其他程序占用了 8000 端口,启动的时候会报错。解决办法:
这个得说一下。酒馆本身免费,但 API 调用是收费的。不同的模型价格不一样,用之前最好了解一下计费方式,免得月底看到账单吓一跳。
如果预算有限,可以考虑用一些提供免费额度的服务,或者跑本地模型(不过本地模型对显卡有要求)。
另外,要是你和我一样手上攒了一堆不同家的 key,可以自己搭一个 NewApi 中转站统一收口,酒馆里只填一个地址一个 key 就行,换模型也不用到处改配置。
酒馆这个东西怎么说呢,上手难度不算高,但需要你有一定的动手能力。如果你之前没怎么用过命令行,可能会觉得有点麻烦,但跟着步骤走其实也还好。
部署好之后的体验还是不错的,可以自由调整各种参数,玩起来比在线平台灵活多了。缺点就是需要自己有 API Key,这块是有成本的。
如果你也想搞一个自己的 AI 聊天环境,可以试试。有问题的话欢迎交流。
如果这篇文章对你有帮助,欢迎分享给更多人或打赏支持!
部分内容可能已过时
分享你的想法,与大家交流讨论