Closed jeshs closed 2 months ago
第一个问题是因为我没遇到带有换行符的文本所以没有写,这个可以加上。 多线程支持已经在计划内了。
第一个问题是因为我没遇到带有换行符的文本所以没有写,这个可以加上。 多线程支持已经在计划内了。
多线程4天了还没搞定么😅……直接用async def 不就行了,你那个main.py用不了一小时就能搞得定多协程
python本身支持多协程运作,只要llama.cpp支持多并发请求就可以
AiNiee做的比你完善一些,可以去他那里看看怎么写的
第一个问题是因为我没遇到带有换行符的文本所以没有写,这个可以加上。 多线程支持已经在计划内了。
多线程4天了还没搞定么😅……直接用async def 不就行了,你那个main.py用不了一小时就能搞得定多协程
python本身支持多协程运作,只要llama.cpp支持多并发请求就可以
AiNiee做的比你完善一些,可以去他那里看看怎么写的
你觉得简单你可以直接提pr,没有必要在这里阴阳怪气。我没有任何义务去实现什么功能,写不写全看我有没有时间和心情
我没有责备的意思,也没有阴阳怪气,只是说说
如果让你不舒服了,是我的不对
使用后发现2个小问题 1、原文中存在类似”\r\n“这样的的换行时,译文无法完整的保留,会出现缺失,如下所示,这应该是模型问题。所以能不能将原文中的换行先拆分,分别翻译后,再合并到译文中
2、第二个就是速度比较慢,使用的远程部署。建议支持一次性翻译多行,或多线程