请问有没有降低延迟的方法啊？

InternLM / MindSearch

🔍 An LLM-based Multi-agent Framework of Web Search Engine (like Perplexity.ai Pro and SearchGPT)

Apache License 2.0

5.25k stars 531 forks source link

Open babytdream opened 2 weeks ago

babytdream commented 2 weeks ago

每次输出很多中间过程很耗时，延迟很高，有什么好的办法吗？体验了perplexity ai，感觉他们的延迟就很低。谢谢！

Harold-lkk commented 2 weeks ago

延迟时间是和问题复杂度(对应到mindsearch 节点数)以及阅读的网页数目线性相关的，如果想提速可以减少浏览器搜索结果返回的数目