NEKOparapa / AiNiee

一款专注于Ai翻译的工具,可以用来一键自动翻译RPG SLG游戏,Epub Word TXT小说,Srt Vtt Lrc字幕等等。
GNU General Public License v3.0
1.4k stars 77 forks source link

SakuraLLM模型 接口测试失败 #346

Closed rongjx3 closed 2 weeks ago

rongjx3 commented 2 weeks ago

版本:AiNiee5.1 配置SakuraLLM的窗口:

srv          init: initializing slots, n_slots = 4
slot         init: id  0 | task -1 | new slot n_ctx_slot = 1280
slot         init: id  1 | task -1 | new slot n_ctx_slot = 1280
slot         init: id  2 | task -1 | new slot n_ctx_slot = 1280
slot         init: id  3 | task -1 | new slot n_ctx_slot = 1280
main: model loaded
main: chat template, built_in: 1, chat_example: '<|im_start|>system
You are a helpful assistant<|im_end|>
<|im_start|>user
Hello<|im_end|>
<|im_start|>assistant
Hi there<|im_end|>
<|im_start|>user
How are you?<|im_end|>
<|im_start|>assistant
'
main: server is listening on 127.0.0.1:8080 - starting the main loop
srv  update_slots: all slots are idle

按照说明进行AiNiee配置,但是接口测试失败

[INFO] 正在进行接口测试 ...
[INFO] 接口名称 - SakuraLLM
[INFO] 接口地址 - http://127.0.0.1:8080/v1
[INFO] 接口密钥 -
[INFO] 模型名称 - Sakura-v0.9
[INFO] 测试指令 -
[{'role': 'system', 'content':
'你是一个轻小说翻译模型,可以流畅通顺地以日本轻小说的风格将日文翻译成简体中文,并联系上下文正确使用人称代词,不擅自添加
原文中没有的代词。'}, {'role': 'user', 'content': '将下面的日文文本翻译成中文:サポートキャスト'}]
[ERROR] 接口测试失败 ... Error code: 502

[INFO] 接口测试结果:共测试 1 个接口,成功 0 个,失败 1 个 ...
[ERROR] 失败的接口密钥 -
NEKOparapa commented 2 weeks ago

看看你端口有没有被其他软件占用了

rongjx3 commented 2 weeks ago

找到原因了,一开VPN就不行,关了就OK了