Open gxandys opened 1 year ago
看显存变化也是加载了四个文件,总结后就释放了。参数管理里的max_length调到一两万也没用。
发现点规律:
librarys里面的对应的最大抽取数量也要改。比如我就是用的rtst,在library和librarys下面的rtst的最大抽取数量都改大: library: strategy: "calc:2 rtst:8 agents:0"
count: 11
step: 2
librarys: ...... rtst: count: 8
# backend: Annoy
size: 20
#分块大小"
overlap: 0
#分块重叠长度
# model_path: "http://127.0.0.1:8000/v1" #在线embedding
#model_path: "/data/liaoji/text2vec-large-chinese"
model_path: "/data/liaoji/models/m3e-base"
#向量模型存储路径
device: cuda
#embedding运行设备
count: 11
最大抽取数量
这个当时就也改大了。
无论“最大抽取数量”和strategy参数怎么设置,(例如我设置为9),每次都搜完第四个文件就开始总结。但回答框下是能列出来9个文件的。不知道是怎么回事。