Finetune với dữ liệu custom

telexyz / GPT4VN

Ai cũng có thể tự tạo chatbot bằng huấn luyện chỉ dẫn, với 12G GPU (RTX 3060) và khoảng vài chục MB dữ liệu

108 stars 35 forks source link

Finetune với dữ liệu custom #13

Open quocthinhvo opened 1 year ago

quocthinhvo commented 1 year ago

Em chào anh,

Em cần finetune với dữ liệu riêng (khoảng 1500 dòng) thì em có nên finetune nó cùng với vi_merged.jsonl không ạ. Và cho em hỏi kinh nghiệm khi finetune dữ liệu riêng để đạt kết quả tốt.

Em cảm ơn.

tiendung commented 1 year ago

Có em nhé, nên trộn với nhau và lấy mẫu của 1500 dòng của em nhiều hơn. Sorry vì trả lời muộn.