xusenlinzy / api-for-open-llm

Openai style api for open large language models, using LLMs just as chatgpt! Support for LLaMA, LLaMA-2, BLOOM, Falcon, Baichuan, Qwen, Xverse, SqlCoder, CodeLLaMA, ChatGLM, ChatGLM2, ChatGLM3 etc. 开源大模型的统一后端接口
Apache License 2.0
2.16k stars 252 forks source link

internlm2-chat-7b 部署完停不下来,是不是模板的问题啊 #226

Closed Tendo33 closed 5 months ago

Tendo33 commented 5 months ago

提交前必须检查以下项目 | The following items must be checked before submission

问题类型 | Type of problem

效果问题 | Effectiveness issues

操作系统 | Operating system

Linux

详细描述问题 | Detailed description of the problem

使用internlm2 模板部署过之后,模型在输出正常问题之后还是会继续输出直到最大token

Dependencies

# 请在此处粘贴依赖情况
# Please paste the dependencies here

运行日志或截图 | Runtime logs or screenshots

# 请在此处粘贴运行日志
# Please paste the run log here
xusenlinzy commented 5 months ago

PROMPT_NAME指定为internlm2 输出内容中有特殊字符吗

Tendo33 commented 5 months ago

PROMPT_NAME指定为internlm2 输出内容中有特殊字符吗

使用的最新的代码,PROMPT_NAME就是指定的internlm2 image

Tendo33 commented 5 months ago

@xusenlinzy 还有orionstar 的template是不是也需要更新啊 这是官网的: image

xusenlinzy commented 5 months ago

@xusenlinzy 还有orionstar 的template是不是也需要更新啊 这是官网的: image

是的,需要更新一下