search

dataelement / bisheng

BISHENG is an open LLM devops platform for next generation Enterprise AI applications. Powerful and comprehensive features include: GenAI workflow, RAG, Agent, Unified model management, Evaluation, SFT, Dataset Management, Enterprise-level System Management, Observability and more.
https://bisheng.dataelem.com/
Apache License 2.0
8.81k stars 1.62k forks source link

ChatZhipuAI 组件异常返回导致页面显示不友好 #596

Open LicsDaSheng opened 4 months ago

LicsDaSheng commented 4 months ago

在使用 ChatZhipuAI 组件进行技能编排的时候，对于 API 调用异常返回的处理，目前只处理了1301这个错误码情况。对于其他错误没有处理。页面显示如下 image

后台异常如下图 image

image

分析情况如下： 目前是通过bisheng_langchain.chat_models.ChatZhipuAI进行实现。实际上langchain_community.chat_models.ChatZhipuAI已有实现 他的实现如下 image

是否需要参考 langchain 社区的，conver 中所有的异常，并且将这些异常 raise 出去。

LicsDaSheng commented 4 months ago

对比了一下langchain 社区的实现和 bisheng 的实现，bisheng 的实现中增加一个 callback，另外在异常处理的时候，默认返回了一个空的assistant的回答，不知道是不是考虑助手中的工具调用的实现