search

telexyz / GPT4VN

Ai cũng có thể tự tạo chatbot bằng huấn luyện chỉ dẫn, với 12G GPU (RTX 3060) và khoảng vài chục MB dữ liệu
108 stars 35 forks source link

Prefix tuning đang bị lỗi khi load 8 bit #10

Closed tiendung closed 1 year ago

tiendung commented 1 year ago

Nên bỏ prefix tuning, PEFT đã hỗ trợ multi lora