ztxz16 / fastllm

纯c++的全平台llm加速库,支持python调用,chatglm-6B级模型单卡可达10000+token / s,支持glm, llama, moss基座,手机端流畅运行
Apache License 2.0
3.3k stars 334 forks source link

你好,编译py_api的时候报错 #209

Open Be-carefull opened 1 year ago

Be-carefull commented 1 year ago

CMake Error at CMakeLists.txt:50 (add_subdirectory): The source directory

/home/demo/fastllm/third_party/pybind11

does not contain a CMakeLists.txt file.

CMake Error at CMakeLists.txt:60 (pybind11_extension): Unknown CMake command "pybind11_extension".

请大佬readme里面说明下需要的python版本和必要库,感谢~ 此外c++版本的ip端口不支持修改

TylunasLi commented 1 year ago

需要加载pybind11,这个在根目录的readme里面没有写。 在根目录执行:

git submodule update --init --recursive

再执行cmake步骤。