ztxz16 / fastllm

纯c++的全平台llm加速库,支持python调用,chatglm-6B级模型单卡可达10000+token / s,支持glm, llama, moss基座,手机端流畅运行
Apache License 2.0
3.23k stars 325 forks source link

中文输入无法识别;webui打开的地址无法访问。 #447

Closed Mihubaba closed 3 months ago

Mihubaba commented 3 months ago

1、中文输入输出乱码; image 我在别的issue看到main函数添加system("chcp 65001"),具体怎么实现呢? 2、webui打开的地址无法访问; (chatglm3) D:\Python\C or C++ project\fastllm\build-GPU\Debug>webui.exe -p chatglm3-6b-fp16.flm --port 8000 Load (200 / 200) Warmup... finish.

please open http://127.0.0.1:8000 浏览器打开这个地址无法访问。

TylunasLi commented 3 months ago

1、Windows中文输入乱码

FAQ

2、webui打开的地址无法访问;

需要制定 -w 参数。指向页面目录。 webui.exe -p chatglm3-6b-fp16.flm --port 8000 -w ../web/