Open chenryn opened 3 weeks ago
看代码和示例问题,ParallelDocQA似乎都必须先提一个具体问题,然后 llm 来提取关键字去并行检索。 但实际运用上传一个文档以后,可能都会先习惯性的问一句“这个文档讲的啥”、“总结一下这篇文档的内容”。这时候问题里没有任何具象的关键字。
确实。。我们开发完后也意识到了这个问题。。“总结”这种偏全局理解的任务可能需要一类特殊的agent来处理。
后续会提供这个agent么? 看通义网站上是可以这么使用的
mark,总结是agent是否需要检索?怎么结合?
不检索的话,大模型输入又有显存和能力的限制,难取舍
看代码和示例问题,ParallelDocQA似乎都必须先提一个具体问题,然后 llm 来提取关键字去并行检索。 但实际运用上传一个文档以后,可能都会先习惯性的问一句“这个文档讲的啥”、“总结一下这篇文档的内容”。这时候问题里没有任何具象的关键字。