search

ztxz16 / fastllm

纯c++的全平台llm加速库，支持python调用，chatglm-6B级模型单卡可达10000+token / s，支持glm, llama, moss基座，手机端流畅运行
Apache License 2.0
3.33k stars 341 forks source link

修复Windows下的编译 #464

Closed TylunasLi closed 5 months ago

TylunasLi commented 5 months ago
  1. 修复 MSVC 头文件引入时M_PI未定义问题 (#455 之后又有一处有问题，统一修复)；
  2. 补充了Windows的MemoryBarrier()；
  3. POSIX的sleep()改用c++11的std::this_thread::sleep_for()；
  4. POSIX的access()改用c++17的std::filesystem，为此更新了Andorid NDK版本；
  5. Win32Demo 同步了近两个月的修改、

测试情况

在以下环境编译通过：