ztxz16 / fastllm

纯c++的全平台llm加速库,支持python调用,chatglm-6B级模型单卡可达10000+token / s,支持glm, llama, moss基座,手机端流畅运行
Apache License 2.0
3.23k stars 325 forks source link

无法安装fastllm_pytools #443

Open bailingchun opened 3 months ago

bailingchun commented 3 months ago

我满足所需条件按照步骤运行不成功,没有生成tools文件 443ff3404605486a32c65bc94c2bcdf

9c9ee0cf58abc1e50092760a7b7d48f 请问我应该如何下载

TylunasLi commented 3 months ago

Windows下cmake默认使用Visuals Studio 并生成对应的 .sln / .vcproj文件。 接下来可以在Visual Studio中打开sln。选择"Release"并构建整个解决方案。