fatwang2 / search2ai

Help your LLMs online
https://sum4all.site/telegram
MIT License
1.07k stars 160 forks source link

1个流程图,4个问题:如何判断要不要搜索?谁把搜索结果组织成“人话”?付费的moonshot API-key写在哪? #28

Open bingjiw opened 5 months ago

bingjiw commented 5 months ago

我现使用付费版的moonshot API,如果想要加上search2ai的搜索,应如何操作?

阅读了本站说明,我画了个流程图,似乎是这样,不知是否有误:

Screenshot 2024-06-03 at 07 01 27

问题 1: 关于 第4步 search2ai 是怎样 根据 moonshot API 的返回值来判断是不是要进行搜索的?

问题 2: 关于 第6步 search2ai 是怎样 根据 搜索的结果(结合用户的问题)组织成“人话” (通顺的回答)语句的呢 ? search2ai 会自动内部去调用另一个 LLM GPT 去把搜索结果组织成“人话”吗? 或 search2ai 内含【自然语言处理】能组织答案?

问题 3: 我付费的moonshot API-key 要写在search2ai的哪里?否则search2ai如何转发用户的问题到moonshot?或者要把付费的moonshot API-key告诉search1api吗?

问题 4: 如果大模型moonshot不需要搜索,直接回答了问题。那么问答同样是经 search2ai 中转的?那是否还要给 search1api 计费并付费?

fatwang2 commented 5 months ago

不是的,你理解错了,你可以直接去官网了解下function calling的逻辑。search2ai这个项目就是用function calling的能力对你的请求做了转发,带上了联网的能力。使用的时候就是在你原本填写moonshot的api地址的地方,换成你部署的新的地址即可