InternLM / HuixiangDou

HuixiangDou: Overcoming Group Chat Scenarios with LLM-based Technical Assistance
https://openxlab.org.cn/apps/detail/tpoisonooo/huixiangdou-web
BSD 3-Clause "New" or "Revised" License
1.52k stars 127 forks source link

FAQ: openxlab LLM API 没给回复 #214

Open tpoisonooo opened 7 months ago

tpoisonooo commented 7 months ago

就是字面上的 LLM API 没给回复。

就眼下的预算而言:

高情商:经济矛盾 低情商:没有钱自己部署个可靠且稳定的 LLM

  1. 同一个意思,换个问法。并且知识库也需要内容安全,不易触发违禁检查那种。

    反例: x 毁灭地球 x 叶文杰在文化大革命..

    正例: HuixiangDou 是什么

  2. For 学习 本地如果有 GPU,用 github 自己部署

  3. For 商业、高性价比 本地若只有 2G 显存,配合 kimi 或 gpt (已支持国内 x-api 代理) 。

    需注意接口的 RPM 限制,豆哥解答一次问题,最坏需要 7 RPM。
    以 kimi 202403 的计费标准为例,需要充值 50 大洋才给 200 RPM。@xxr3376 开门,收一下广告费