关于直接使用 GPT插件来使用 Sakura-13B-Galgame

[lhj5426]

尊敬的老哥您好 https://github.com/SakuraLLM/Sakura-13B-Galgame 这个 部署完的地址 是可以使用 GPT的插件来进行 翻译的 但是 不能使用批量翻译 好像是格式的问题把 批量喂的话 返回都是空 但是单个一个一个喂就是正常的 在多引擎翻标签栏里也是正常的 这里可以请您优化一下吗 它的格式是这个样子的 应该您只要改动下插件就可以支持了？

[xulihang]

这个模型硬件要求比较高，我不是很方便测试。ChatGPT的提示语能用，但它不适用，应该是它的问题。

[lhj5426]

https://github.com/SakuraLLM/Sakura-13B-Galgame/wiki/白嫖Kaggle平台部署教程

嗯，我是白嫖keep来试用的，我是这么想的如果能用的话而且比gpt3.5要强或者持平的话那我可以先跑一堆漫画的文本然后租个4090的算力疯狂跑一阵 租算力才几块钱1小时 因为gpt开始审核瑟瑟的对话了😆 未来加大力度的话就只能依赖这种大佬做的模型了 一个号可以白嫖30小时 我自己就有4个手机号……办理宽带必须1个主号带3个副卡……3胎政策吧…一个大人家里3娃……反正多出3张卡😆还能可以体验120小时😆

[harrylisen]

Sakura现在还不能用提示词字典

[lhj5426]

Sakura现在还不能用提示词字典

是这样啊 那我把提示词全删掉试试

[lhj5426]

老哥 这四项GPT 提示词无法被清空 如果清空的话 点寄保存之后 会被默认的英文提示词填充上

[lhj5426]

删了之后这里还是会显示提示词

[xulihang]

为什么需要清空？清空的话会自动用默认的。

[lhj5426]

为什么需要清空？清空的话会自动用默认的。

因为 这个 樱花模型 不支持传入 命令和参数 而且 使用
在一次机器翻译请求内翻译多个句子（如支持） 情况下 会传入 json 翻译命令 这样无法返回结果 我就想着清空下试试 现在只能关闭设置里的

在一次机器翻译请求内翻译多个句子（如支持）

这个选项 一个气泡一个对话的翻译 主要是 我现在 空有大量的 gpt API 额度 而无法涩涩 现在好像使用了AZ的逆向 无法涩涩了 所以想把初翻的重心放在 樱花这边 今天又捡起来发现 删光提示词 会恢复成默认的 。。。 所以能不能删光 就是删光不要恢复默认的 这样 会不会启动 在一次机器翻译请求内翻译多个句子（如支持） 启动这个设置的时候 传入 正常文本 而非JSON 命令？

[xulihang]

空的提示词不会传原文进去，没办法得到译文

[lhj5426]

https://github.com/SakuraLLM/Sakura-13B-Galgame/wiki/白嫖Kaggle平台部署教程 这边可以白嫖谷歌两张T40显卡来跑 樱花模型 不需要本地配置 能不能请老哥适配下 樱花模型 谢谢了

每周有30小时的 使用时间 每周重置

可以 可以一次传入一整页的文本 这样翻译的能快点 大概

[xulihang]

我看有用到ngrok，这个地址我也可以用的，发一个可以用的给我，我就可以测试了

[xulihang]

噢，配置挺简单的。我看能返回批量翻译的数据，但JSON解析出错了，我看看怎么修正一下

[xulihang]

更新了下插件，把返回结果里的提示语去掉后再解析就可以了：

chatGPT.zip

[lhj5426]

更新了下插件，把返回结果里的提示语去掉后再解析就可以了：

chatGPT.zip

谢谢哥哥 我去试试

[lhj5426]

从部署到 跑完一本 用 了不到1个小时 速度 提升N多 感谢老哥 目前一切正常 可以使用 来进行一次一整页的翻译了