search

chatchat-space / Langchain-Chatchat

Langchain-Chatchat（原Langchain-ChatGLM, Qwen 与 Llama 等）基于 Langchain 与 ChatGLM 等语言模型的 RAG 与 Agent 应用 | Langchain-Chatchat (formerly langchain-ChatGLM), local knowledge based LLM (like ChatGLM, Qwen and Llama) RAG and Agent app with langchain
Apache License 2.0
29.44k stars 5.17k forks source link

ollama not support the 'completion' mode #4361

Closed xiwang123 closed 3 days ago

xiwang123 commented 3 days ago

根据ollama官网的描述，如下文档https://github.com/ollama/ollama/blob/main/docs/openai.md 只提供了/v1/chat/completions类型的Endpoints， model_providers.core.model_runtime.model_providers.ollama.llm.llm.OllamaLargeLanguageModel文件的108行代码，如果走else，client.completions.create，模型会报404错误，所以这个mode应该是'chat'，而不是'completion'。

liunux4odoo commented 3 days ago

该配置项已经不再使用。