使用.main启动模型有上下文理解能力，但是使用.server部署模型没有上下文理解能力

[948024326]

提交前必须检查以下项目

• [X] 请确保使用的是仓库最新代码（git pull），一些问题已被解决和修复。
• [X] 由于相关依赖频繁更新，请确保按照Wiki中的相关步骤执行
• [X] 我已阅读FAQ章节并且已在Issue中对问题进行了搜索，没有找到相似问题和解决方案
• [X] 第三方插件问题：例如llama.cpp、text-generation-webui、LlamaChat等，同时建议到对应的项目中查找解决方案
• [X] 模型正确性检查：务必检查模型的SHA256.md，模型不对的情况下无法保证效果和正常运行

问题类型

模型推理

基础模型

LLaMA-7B

操作系统

Linux

详细描述问题

对同一个模型进行操作时：

.main的命令：./main -m MODEL/Mistral-7B-Instruct/ggml-model-f16.gguf --color -ins -c 2048 --temp 0.2 -n 256 --repeat_penalty 1.1 -ngl 40

.server的命令:!./server -m MODEL/Mistral-7B-Instruct/ggml-model-f16.gguf -c 1500 -ngl 40

依赖情况（代码类问题务必提供）

None

运行日志或截图

这是.main命令运行的结果： 第二个问题是根据第一个问题生成的，所以有上下文关系

这是.server命令运行的结果： 可以看的两个问题几乎没有关联性，所以上下文关系几乎是没有的

请问是什么原因，或者有什么办法可以解决？

[ymcui]

不太清楚你的这个web界面是怎么搭建的，似乎不是llama.cpp自带的那个。所以是否是向server发送了多轮请求就不清楚了。建议去llama.cpp那边提问。

[whisky-12]

不太清楚你的这个web界面是怎么搭建的，似乎不是llama.cpp自带的那个。所以是否是向server发送了多轮请求就不清楚了。建议去llama.cpp那边提问。

这里是使用.server的命令:!./server -m MODEL/Mistral-7B-Instruct/ggml-model-f16.gguf -c 1500 -ngl 40起了一个服务API，然后通过curl post的形式发送请求， 确实 ./main的效果比、server的效果好， 还有一定的上下文理解记忆能力

[github-actions[bot]]

This issue has been automatically marked as stale because it has not had recent activity. It will be closed if no further activity occurs. Thank you for your consideration.

[github-actions[bot]]

Closing the issue, since no updates observed. Feel free to re-open if you need any further assistance.