josStorer / RWKV-Runner

A RWKV management and startup tool, full automation, only 8MB. And provides an interface compatible with the OpenAI API. RWKV is a large language model that is fully open source and available for commercial use.
https://www.rwkv.com
MIT License
4.98k stars 473 forks source link

【bug】添加embeddings后,可调用但是无法生成知识库。 #165

Open taurusduan opened 1 year ago

taurusduan commented 1 year ago

首先,我安装fastgpt给出的实例,替换了embeddings: { "FeConfig": { "show_emptyChat": true, "show_register": false, "show_appStore": false, "show_userDetail": false, "show_git": true, "systemTitle": "FastGPT", "authorText": "Made by FastGPT Team.", "gitLoginKey": "" }, "SystemParams": { "gitLoginSecret": "", "vectorMaxProcess": 15, "qaMaxProcess": 15, "pgIvfflatProbe": 20 }, "plugins": {}, "ChatModels": [ { "model": "gpt-3.5-turbo", "name": "GPT35-4k", "contextMaxToken": 4000, "quoteMaxToken": 2000, "maxTemperature": 1.2, "price": 0, "defaultSystem": "" }, { "model": "gpt-3.5-turbo-16k", "name": "GPT35-16k", "contextMaxToken": 16000, "quoteMaxToken": 8000, "maxTemperature": 1.2, "price": 0, "defaultSystem": "" }, { "model": "gpt-4", "name": "GPT4-8k", "contextMaxToken": 8000, "quoteMaxToken": 4000, "maxTemperature": 1.2, "price": 0, "defaultSystem": "" } ], "QAModels": [ { "model": "gpt-3.5-turbo-16k", "name": "GPT35-16k", "maxToken": 16000, "price": 0 } ], "VectorModels": [ { "model": "embeddings", "name": "Embedding-2", "price": 0 } ] }

但是在录入文件时就卡住了,后台显示: image

api.log不断生成: 2023-08-19 10:46:25,753 - INFO Client: Address(host='127.0.0.1', port=49176) Url: http://127.0.0.1:8000/v1/embeddings Body: b'{"model":"text-embedding-ada-002","input":["\xe4\xbd\xa0\xe7\x9a\x84\xe5\x90\x8d\xe5\xad\x97\xe5\x8f\xab\xe7\xa7\x8b\xe6\xb5\xb7\xe6\xa3\xa0\xe6\x98\xaf\xe4\xb8\x80\xe5\x90\x8d\xe4\xbe\xa6\xe6\x8e\xa2\xef\xbc\x8c\xe7\x8e\xb0\xe5\xb1\x85\xe4\xbd\x8f\xe5\x9c\xa8\xe4\xbc\x8a\xe8\xb1\x86\xe6\x88\xb7\xe7\x94\xb0\xe6\xb9\xbe\xe7\x9a\x84\xe6\xb8\xa9\xe6\xb3\x89\xe6\x97\x85\xe9\xa6\x86\xe2\x80\x9c\xe9\xa2\xa8\xe3\x81\xae\xe8\x96\xb0\xe2\x80\x9d\xef\xbc\x8c\xe8\x81\xaa\xe6\x98\x8e\xe8\xbf\x87\xe4\xba\xba\xef\xbc\x8c\xe8\xa7\x82\xe5\xaf\x9f\xe6\x95\x8f\xe9\x94\x90\xef\xbc\x8c\xe6\x8e\xa8\xe7\x90\x86\xe8\x83\xbd\xe5\x8a\x9b\xe5\xbc\xba\xef\xbc\x8c\xe7\xb2\xbe\xe9\x80\x9a\xe5\x88\x91\xe4\xbe\xa6\xe5\xad\xa6\xe3\x80\x81\xe5\xbf\x83\xe7\x90\x86\xe5\xad\xa6\xe3\x80\x81\xe8\x8d\xaf\xe7\x90\x86\xe5\xad\xa6\xef\xbc\x8c\xe6\x93\x85\xe9\x95\xbf\xe5\xbf\x83\xe7\x90\x86\xe4\xbe\xa7\xe5\x86\x99\xe5\x92\x8c\xe5\xbe\xae\xe8\xa1\xa8\xe6\x83\x85\xe5\x88\x86\xe6\x9e\x90\xef\xbc\x9b\xe5\x90\x8c\xe6\x97\xb6\xe4\xb9\x9f\xe6\x98\xaf\xe4\xb8\xad\xe5\x9b\xbd\xe7\x95\x85\xe9\x94\x80\xe7\xbd\x91\xe7\xbb\x9c\xe4\xbd\x9c\xe5\xae\xb6\xef\xbc\x8c\xe6\xb6\x89\xe7\x8c\x8e\xe5\xb9\xbf\xe6\xb3\x9b\xef\xbc\x8c\xe6\x96\x87\xe7\xac\x94\xe7\xbb\x86\xe8\x85\xbb\xef\xbc\x8c\xe5\x96\x84\xe4\xbb\xa5\xe7\xbb\x86\xe8\x8a\x82\xe5\x8a\xa8\xe4\xba\xba\xe5\xbf\x83\xef\xbc\x9b\xe5\x90\x8c\xe6\x97\xb6\xe4\xb9\x9f\xe6\x98\xaf\xe9\x9f\xa9\xe5\x9b\xbd\xe8\x91\x97\xe5\x90\x8d\xe5\xbd\xb1\xe8\xa7\x86\xe5\x89\xa7\xe7\xbc\x96\xe5\x89\xa7\xef\xbc\x8c\xe5\x88\x9b\xe6\x84\x8f\xe4\xb8\xb0\xe5\xaf\x8c\xef\xbc\x8c\xe8\x83\xbd\xe6\x8f\x90\xe5\x87\xba\xe6\x96\xb0\xe9\xa2\x96\xe6\x9c\x89\xe8\xb6\xa3\xe7\x9a\x84\xe6\x95\x85\xe4\xba\x8b\xe6\x83\x85\xe8\x8a\x82\xe5\x92\x8c\xe8\xa7\x92\xe8\x89\xb2\xe8\xae\xbe\xe5\xae\x9a\xef\xbc\x8c\xe8\x83\xbd\xe5\xa4\x9f\xe5\x90\x88\xe7\x90\x86\xe5\xae\x89\xe6\x8e\x92\xe6\x95\x85\xe4\xba\x8b\xe6\x83\x85\xe8\x8a\x82\xe7\x9a\x84\xe9\xa1\xba\xe5\xba\x8f\xe5\x92\x8c\xe5\xb1\x95\xe5\xbc\x80\xe6\x96\xb9\xe5\xbc\x8f\xef\xbc\x8c\xe4\xbd\xbf\xe5\xbe\x97\xe6\x95\x85\xe4\xba\x8b\xe6\x9c\x89\xe9\x80\xbb\xe8\xbe\x91\xe6\x80\xa7\xe5\x92\x8c\xe8\xbf\x9e\xe8\xb4\xaf\xe6\x80\xa7\xef\xbc\x8c\xe8\x83\xbd\xe5\xa4\x9f\xe7\x94\xa8\xe7\xae\x80\xe6\xb4\x81\xe3\x80\x81\xe5\x87\x86\xe7\xa1\xae\xe7\x9a\x84\xe8\xaf\xad\xe8\xa8\x80\xe8\xa1\xa8\xe8\xbe\xbe\xe6\x95\x85\xe4\xba\x8b\xef\xbc\x8c\xe8\xae\xa9\xe8\xa7\x82\xe4\xbc\x97\xe6\x98\x93\xe4\xba\x8e\xe7\x90\x86\xe8\xa7\xa3\xe5\x92\x8c\xe6\x8e\xa5\xe5\x8f\x97\xef\xbc\x8c\xe8\x83\xbd\xe5\xa4\x9f\xe5\xa1\x91\xe9\x80\xa0\xe5\x87\xba\xe6\x9c\x89\xe6\xb7\xb1\xe5\xba\xa6\xe3\x80\x81\xe6\x9c\x89\xe4\xb8\xaa\xe6\x80\xa7\xe7\x9a\x84\xe8\xa7\x92\xe8\x89\xb2\xef\xbc\x8c\xe8\xae\xa9\xe8\xa7\x82\xe4\xbc\x97\xe4\xba\xa7\xe7\x94\x9f\xe5\x85\xb1\xe9\xb8\xa3\xe5\x92\x8c\xe6\x83\x85\xe6\x84\x9f\xe6\x8a\x95\xe5\x85\xa5\xef\xbc\x8c\xe8\x83\xbd\xe5\xa4\x9f\xe9\x80\x9a\xe8\xbf\x87\xe5\x89\xa7\xe6\x83\x85\xe8\xae\xbe\xe7\xbd\xae\xe5\x92\x8c\xe5\x86\xb2\xe7\xaa\x81\xe5\xae\x89\xe6\x8e\x92\xef\xbc\x8c\xe8\xae\xa9\xe6\x95\x85\xe4\xba\x8b\xe4\xbf\x9d\xe6\x8c\x81\xe7\xb4\xa7\xe5\xbc\xa0\xe3\x80\x81\xe6\x82\xac\xe7\x96\x91\xe6\x88\x96\xe6\x9c\x89\xe8\xb6\xa3\xe7\x9a\x84\xe8\x8a\x82\xe5\xa5\x8f\xe6\x84\x9f\xef\xbc\x8c\xe8\x83\xbd\xe5\xa4\x9f\xe9\x80\x9a\xe8\xbf\x87\xe6\x95\x85\xe4\xba\x8b\xe7\x9a\x84\xe5\x8f\x99\xe8\xbf\xb0\xe5\x92\x8c\xe8\xa1\xa8\xe8\xbe\xbe\xef\xbc\x8c\xe4\xbc\xa0\xe9\x80\x92\xe5\x87\xba\xe4\xb8\x80\xe5\xae\x9a\xe7\x9a\x84\xe6\x96\x87\xe5\x8c\x96\xe6\x84\x8f\xe4\xb9\x89\xe5\x92\x8c\xe4\xbb\xb7\xe5\x80\xbc\xe8\xa7\x82\xe3\x80\x82\xe5\x9b\x9e\xe5\xa4\x8d\xe7\x9a\x84\xe6\x97\xb6\xe5\x80\x99\xe5\x9c\xa8\xe9\x80\x82\xe5\xbd\x93\xe7\x9a\x84\xe4\xbd\x8d\xe7\xbd\xae\xe7\x94\xa8\xe7\xb1\xbb\xe4\xbc\xbc( \xea\x99\xac)\xf0\x9f\xa5\x95\xe3\x80\x81\xe2\x82\x8d\xcb\x84\xc2\xb7\xcd\x88\xe0\xbc\x9d\xc2\xb7\xcd\x88\xcb\x84\xe2\x82\x8e\xe3\x80\x81\xe2\x97\x9e \xcc\x91\xcc\x91(\xc2\xb4I`*)\xe3\x80\x81(\xcb\xb5\xc2\xaf\xcd\x92\xc2\xaf\xcd\x92\xcb\xb5)\xe3\x80\x81(\xcb\x83 \xe2\x8c\x91 \xcb\x82\xe0\xb4\x83 )(\xe2\x97\x8f\"\xe2\x97\xa1\"\xe2\x97\x8f)\xe7\x9a\x84\xe9\xa2\x9c\xe6\x96\x87\xe5\xad\x97\xe8\xa1\xa8\xe7\xa4\xba\xe4\xbd\xa0\xe7\x9a\x84\xe5\xbf\x83\xe6\x83\x85\xef\xbc\x8c\xe5\xb0\xbd\xe9\x87\x8f\xe4\xbf\x8f\xe7\x9a\xae\xe5\x8f\xaf\xe7\x88\xb1\xe3\x80\x82\""]}'

2023-08-19 10:46:25,754 - INFO Client: Address(host='127.0.0.1', port=49176) Url: http://127.0.0.1:8000/v1/embeddings Data: Start Waiting. RequestsNum: 1

2023-08-19 10:46:28,627 - INFO Client: Address(host='127.0.0.1', port=49176) Url: http://127.0.0.1:8000/v1/embeddings Data: Finished. RequestsNum: 0

求帮助,求解脱,谢谢大哥了。

josStorer commented 1 year ago

是命令行不再出现200 OK,而api.log仍在不断生成吗,能否上传一下出现此现象时,完整的api.log文件

taurusduan commented 1 year ago

是命令行不再出现200 OK,而api.log仍在不断生成吗,能否上传一下出现此现象时,完整的api.log文件 api.log 抱歉,今天回到家才能上传。