search

bytedance / ByteMLPerf

AI Accelerator Benchmark focuses on evaluating AI Accelerators from a practical production perspective, including the ease of use and versatility of software and hardware.
https://bytemlperf.ai/
Apache License 2.0
197 stars 60 forks source link

有没有可能支持llama3推理测试 #71

Closed incomingflyingbrick closed 4 months ago

incomingflyingbrick commented 5 months ago

请问llm perf有没有可能支持llam3测试， 8B 版本。这个版本现在用的人比较多。

suisiyuan commented 4 months ago

请问llm perf有没有可能支持llam3测试， 8B 版本。这个版本现在用的人比较多。

目前暂无计划添加llama3模型。