Open tpoisonooo opened 7 months ago
就是字面上的 LLM API 没给回复。
就眼下的预算而言:
高情商:经济矛盾 低情商:没有钱自己部署个可靠且稳定的 LLM
同一个意思,换个问法。并且知识库也需要内容安全,不易触发违禁检查那种。
反例: x 毁灭地球 x 叶文杰在文化大革命.. 正例: HuixiangDou 是什么
反例: x 毁灭地球 x 叶文杰在文化大革命..
正例: HuixiangDou 是什么
For 学习 本地如果有 GPU,用 github 自己部署
For 商业、高性价比 本地若只有 2G 显存,配合 kimi 或 gpt (已支持国内 x-api 代理) 。
需注意接口的 RPM 限制,豆哥解答一次问题,最坏需要 7 RPM。 以 kimi 202403 的计费标准为例,需要充值 50 大洋才给 200 RPM。@xxr3376 开门,收一下广告费
就是字面上的 LLM API 没给回复。
就眼下的预算而言:
同一个意思,换个问法。并且知识库也需要内容安全,不易触发违禁检查那种。
For 学习 本地如果有 GPU,用 github 自己部署
For 商业、高性价比 本地若只有 2G 显存,配合 kimi 或 gpt (已支持国内 x-api 代理) 。
需注意接口的 RPM 限制,豆哥解答一次问题,最坏需要 7 RPM。
以 kimi 202403 的计费标准为例,需要充值 50 大洋才给 200 RPM。@xxr3376 开门,收一下广告费