Closed allrobot closed 1 month ago
人家 72B INT4 要单卡 48G 起步...
人家 72B INT4 要单卡 48G 起步...
做个 https://www.modelscope.cn/studios/qwen/Qwen2-72B-Instruct-demo/summary 入口的api总算可以吧?
如果你有类似需求,可以考虑通过中转方案(如one api,new api)来把接口类型中转到openai,然后使用gpt翻译器或者sakura翻译器进行翻译(sakura的话你要手动修改system prompt)。
如果你有类似需求,可以考虑通过中转方案(如one api,new api)来把接口类型中转到openai,然后使用gpt翻译器或者sakura翻译器进行翻译(sakura的话你要手动修改system prompt)。
这算是一个可行的解决方案吧
Qwen2刚出来的,翻译质量比以前提高了不少
聊天入口:https://www.modelscope.cn/studios/qwen/Qwen2-72B-Instruct-demo/summary
模型入口:https://www.modelscope.cn/models/qwen/Qwen2-72B-Instruct/summary