opinionscience / FabriqueLLM

MIT License
18 stars 0 forks source link

Erreur dans le notebook FR #2

Closed drvenabili closed 1 year ago

drvenabili commented 1 year ago

Salut,

C'est un détail mais dans Fine_tune_avec_falcon_4bit.ipynb, dans la cellule sous installation nous lisons :

En tout premier lieu nous vérifions si nous disposons de suffisamment de mémoire vive au moins 24go) sinon ce n'est pas la peine de lancer le script.

alors que la première cellule dit :

Ce carnet de code utilise une version déjà ré-entraînée de Falcon-7 : instruct-4-bit. C'est aussi une version plus compacte de Falcon qui devrait pouvoir tourner sur une version gratuite de Google Colab : vous aurez besoin d'environ 10go de Vram.

Sinon tout fonctionne nickel, merci pour ce notebook

Pclanglais commented 1 year ago

Ah oui bien vu. C'est un résidu de la première version du script (qui ne tournait pas sur 4-bit). C'est corrigé.