Closed 1913618332 closed 1 week ago
我在autodl上租4090卡,用sakura模型翻译,不知道怎么设置最佳? 比如说线程数这个,设置多了害怕“请求频繁”报错,设置少了又很慢。 有没有推荐最佳翻译设置?
顺带一提,我感觉在不能本地部署的前提下, 翻译大段.瑟.瑟.是不是只有这一个方案啊? gpt也有审查,然后那什么白嫖的kaggle平台,我翻译三成,报了一百个错。 前两天总算是用这个autodl方案翻译了一个游戏没报错。 这还只能用4090翻,便宜点的3090启动不了环境。
https://github.com/NEKOparapa/AiNiee/blob/main/SakuraLLMScript/OptimizationGuide.md ,有不懂去群里问这位大佬
我在autodl上租4090卡,用sakura模型翻译,不知道怎么设置最佳? 比如说线程数这个,设置多了害怕“请求频繁”报错,设置少了又很慢。 有没有推荐最佳翻译设置?
顺带一提,我感觉在不能本地部署的前提下, 翻译大段.瑟.瑟.是不是只有这一个方案啊? gpt也有审查,然后那什么白嫖的kaggle平台,我翻译三成,报了一百个错。 前两天总算是用这个autodl方案翻译了一个游戏没报错。 这还只能用4090翻,便宜点的3090启动不了环境。