search

SJTU-IPADS / PowerInfer

High-speed Large Language Model Serving on PCs with Consumer-grade GPUs
MIT License
7.96k stars 412 forks source link

代码中使用的llama.cpp版本 #200

Closed weizhenhuan closed 4 months ago

weizhenhuan commented 4 months ago

Hi， 我想要知道Powerinfer源码使用的llama.cpp版本是多少，最好可以精确到commit号，这样我可以知道具体做了哪些改动。谢谢开发者。