soulteary / docker-llama2-chat

Play LLaMA2 (official / 中文版 / INT4 / llama2.cpp) Together! ONLY 3 STEPS! ( non GPU / 5GB vRAM / 8~14GB vRAM)
https://www.zhihu.com/people/soulteary/posts
Apache License 2.0
528 stars 82 forks source link

接下来一些计划折腾的事(可以评论提你的想法) #5

Open soulteary opened 1 year ago

soulteary commented 1 year ago
logolemon commented 1 year ago

模型私有化 接入Code Interpreter感觉很有趣!

laowenruo commented 1 year ago

可以提供流式API文件部署

songbotao commented 12 months ago

私有化+code interpreter,还有flowise兼容,现在在考虑用llm搭建数据分析这块,看看能不能替代基础数据分析师

syusama commented 12 months ago

可否出一个Windows部署的小白教程,谢谢大佬

soulteary commented 12 months ago

https://zhuanlan.zhihu.com/p/646758615 @syusama 试试看 :-D