Open mrpen2 opened 2 months ago
。
我们不打算开源当前的step_parallel方法。这种方法虽然支持并行,但是调用模型输出后面部分时由于看不到前面部分的内容,会让最终输出的长文本的整体连贯性大打折扣。
System Info / 系統信息
。
Who can help? / 谁可以帮助到您?
。
Information / 问题信息
Reproduction / 复现过程
。
Expected behavior / 期待表现
。