search

THUDM / CodeGeeX2

CodeGeeX2: A More Powerful Multilingual Code Generation Model
https://codegeex.cn
Apache License 2.0
7.55k stars 532 forks source link

多次请求接口，输出结果会出现异常的情况 #226

Open luhairong11 opened 2 months ago

luhairong11 commented 2 months ago

image 采用的模型是codegeex2-6b-int4，在有些请求中，会出现“问”“答”字眼，感觉这个输出有问题，“问”“答”不是在构造prompt的时候的吗，为何在输出的时候有时候也会出现这个情况，频率还挺高的