Open yuri2peter opened 1 year ago
建议实现支持续写的流式WebAPI, 类似于 https://github.com/TylunasLi/ChatGLM-web-stream-demo/blob/main/chatglm_service_fastapi.py
支持续写是很强大的特性,可以让bot更加听话。如果能提供通用的webAPI,CreativeChatGLM 将成为很多AI应用的底层组件。 例如,用chatGLM实现纯离线部署的桌面猫娘、AI绘画tag润色器、翻译器、RPG文字冒险游戏的NPC。。。
需求get
相关 PR:https://github.com/ypwhs/CreativeChatGLM/pull/21
建议实现支持续写的流式WebAPI, 类似于 https://github.com/TylunasLi/ChatGLM-web-stream-demo/blob/main/chatglm_service_fastapi.py
支持续写是很强大的特性,可以让bot更加听话。如果能提供通用的webAPI,CreativeChatGLM 将成为很多AI应用的底层组件。 例如,用chatGLM实现纯离线部署的桌面猫娘、AI绘画tag润色器、翻译器、RPG文字冒险游戏的NPC。。。