search

mymusise / ChatGLM-Tuning

基于ChatGLM-6B + LoRA的Fintune方案
MIT License
3.71k stars 443 forks source link

用cpu推理的情况下越大的ram可以支持越长的记忆吗 #236

Open luckykevvv opened 1 year ago

luckykevvv commented 1 year ago

以双路e5为例，ram最大应该是384gb，在这种情况下是否可以支持上百次对话的长期记忆