THUDM / LongWriter

LongWriter: Unleashing 10,000+ Word Generation from Long Context LLMs
Apache License 2.0
1.46k stars 125 forks source link

请问step_parallel的prompt和代码有开源吗? #20

Open mrpen2 opened 2 months ago

mrpen2 commented 2 months ago

System Info / 系統信息

Who can help? / 谁可以帮助到您?

Information / 问题信息

Reproduction / 复现过程

Expected behavior / 期待表现

bys0318 commented 2 months ago

我们不打算开源当前的step_parallel方法。这种方法虽然支持并行,但是调用模型输出后面部分时由于看不到前面部分的内容,会让最终输出的长文本的整体连贯性大打折扣。