-
微信满员了,请重新上传新的微信图片
-
**Describe the question**
> A clear and concise description of what the question is.
**Environment (please complete the following information):**
- OS: [e.g. mac / window]
- Python Versi…
-
运行# 多模型对比命令:
bash ./scripts/comparison_test.sh
报错:only_ori_llama
./scripts/comparison_test.sh: line 31: infer_result/o_tmp.txt: No such file or directory
lora-llama-fin-ori-fb
./scripts/compariso…
-
是因为你们对比的是linly的基础模型,而不是他们经过指令微调的linly-chatflow吗?7b
-
**Describe the bug**
In Dev admin portal (same for prod I think), I click on user engagement to list users, and I get the following view:
You can see it is filtering on 4 users, but three are du…
-
从 `v0.2.0` 版本起,项目组计划开发功能将列在本 issue 下,并欢迎大家在本 issue 下反馈 `v0.2.x` 版本中希望增加的功能,也希望有兴趣参与到本项目开发的朋友来认领功能进行开发。
| 序号 | 功能名称 | 添加日期 | 开发人员 | 当前状态 | 状态更新日期 |
| ------------- | ------------- | ------------- …
-
**Describe the question**
> A clear and concise description of what the question is.
**Environment (please complete the following information):**
- OS: [e.g. mac / window]
- Python Versi…
-
BELLE-LLaMA-Ext-7B
Linly-Chinese-LLaMA-7b-hf
这两个似乎是预训练模型,而对比的是Billa的sft模型,是否不恰当
-
模型下载章节写着提供脚本,支持格式互转,但实际脚本只有tp转hf,请问hf转tp可以参考哪里?
![image](https://github.com/CVI-SZU/Linly/assets/31911972/76e9a81f-7c57-47f5-9249-2703a0f32961)
-
### 详细描述问题
*请尽量具体地描述您遇到的问题,**必要时给出运行命令**。这将有助于我们更快速地定位问题所在。*
使用 `scripts/inference_hf.py` 进行推理时遇到回答后无法停止,继续产生token直到上限的问题。
过程中提示
```
Setting `pad_token_id` to `eos_token_id`:2 for open-end g…