search

hiyouga / LLaMA-Factory

A WebUI for Efficient Fine-Tuning of 100+ LLMs (ACL 2024)
https://arxiv.org/abs/2403.13372
Apache License 2.0
27.98k stars 3.43k forks source link

sqlcoder-7b-2 模型的微调可以支持下吗 #2541

Closed YYGe01 closed 5 months ago

YYGe01 commented 5 months ago

作者您好： sqlcoder-7b-2模型可以支持吗，专门用于生成sql语句的，看排行榜已经超过gpt4了。

hiyouga commented 5 months ago

结构和 LLaMA2 一致，使用 template vanilla

YYGe01 commented 5 months ago

结构和 LLaMA2 一致，使用 template vanilla

您好，我看readme 模型表格中中，LLaMA2 架构的template不是llama2吗，怎么又是vanilla，没看明白。

JerryDaHeLian commented 4 months ago

结构和 LLaMA2 一致，使用 template vanilla

您好，我看readme 模型表格中中，LLaMA2 架构的template不是llama2吗，怎么又是vanilla，没看明白。

同问！

evanchenhi commented 4 months ago

@hiyouga 麻烦问下，template应该使用llama2还是vanilla

hiyouga commented 4 months ago

@hiyouga 麻烦问下，template应该使用llama2还是vanilla

vanilla

shellhuang1227 commented 4 months ago

@hiyouga @YYGe01 @JerryDaHeLian @evanchenhi 请问下几位，微调sqlcoder-7b-2的template使用vanilla的话，你们的数据是什么样的呢？我正在微调，有点不确定数据的定义和格式。