Open ShannonHung opened 2 months ago
https://shannonhung.github.io/posts/transformers/
Transformers 相關的庫 Transformers 核心庫: 模型加載 模型訓練 Tokenizer 分詞器: 對數據進行預處理，將文本轉換成模型可以理解的格式(Token序列) Datasets 數據集庫: 下載公開的數據集，並且進行預處理 Evaluate 評估函示: 像是準確率 F1, BLEU, ROUGE 等等 PEFT 高校微調方法: 只訓練一小部分參數，而不是全部重新訓練
https://shannonhung.github.io/posts/transformers/
Transformers 相關的庫 Transformers 核心庫: 模型加載 模型訓練 Tokenizer 分詞器: 對數據進行預處理，將文本轉換成模型可以理解的格式(Token序列) Datasets 數據集庫: 下載公開的數據集，並且進行預處理 Evaluate 評估函示: 像是準確率 F1, BLEU, ROUGE 等等 PEFT 高校微調方法: 只訓練一小部分參數，而不是全部重新訓練