baichuan-inc / Baichuan-7B

A large-scale 7B pretraining language model developed by BaiChuan-Inc.
https://huggingface.co/baichuan-inc/baichuan-7B
Apache License 2.0
5.67k stars 506 forks source link

能提供个类似open_api.py的文件,可以供我们使用接口进行测试吗? #131

Open mawenju203 opened 12 months ago

mawenju203 commented 12 months ago

Required prerequisites

Questions

查看web_demo.py 代码 (response in model.chat(tokenizer, messages, stream=True);),发现没有history,也不知道模型是否支持agent,是否支持stop_word; 希望楼主能提供更多的调试方式。

Checklist