Closed kknd222 closed 4 months ago
就类似这样 出现user: assistant: 这样的多轮对话拼接,影响了LLM的回复,现发现问题是影响code修改代码, 比如第一次回复了一个代码,第二次请求告知其哪里哪里有问题,第二次回应时说修改了,实际并没有,代码原封不动的返还回来了。
为了隔离不同会话的上下文,不会共用你账号的整个会话避免污染,会在每次消息提供完整上下文,这是目前无法避免的问题,你可以考虑减少上下文轮次减少幻觉,像你提到的代码修改问题,一般是模型本身幻觉导致以为自己改过代码了。
就类似这样 出现user: assistant: 这样的多轮对话拼接,影响了LLM的回复,现发现问题是影响code修改代码, 比如第一次回复了一个代码,第二次请求告知其哪里哪里有问题,第二次回应时说修改了,实际并没有,代码原封不动的返还回来了。