Closed SoYuCry closed 10 months ago
1.system prompt不同; 2.格式不同
我看到的 alpaca 的 prompt 是“Below is an instruction that describes a task. Write a response that appropriately completes the request. ###”,Vicuna 只有 from human 和 GPT,没有看到 prompt
vicuna也有system prompt.
Describe the Question
Please provide a clear and concise description of what the question is.
想请教一下,Alpaca 和 Vicuna 这两个模板在格式上有什么不一样吗
我了解到的是:相较于Alpaca,Vicuna在训练中将序列长度由512扩展到了2048,并且数据是从 ShareGPT.com 来的,而 Alpaca 的数据是从 GPT 3.5 来的。
Alpaca 是 instruction,input,output Vicuna 是 User,assitant,User,assitant ...
一方面长度不同,另一方面是 Vicuna 没有 instruction 部分?