search

ruanyf / weekly

科技爱好者周刊，每周五发布
42.96k stars 2.69k forks source link

【工具推荐】LM Studio：本地部署LLM，多种模型可用 #4586

Open leqisdu opened 3 weeks ago

leqisdu commented 3 weeks ago

LM Studio： Discover, download, and run local LLMs 使用LM Studio，您可以： 🤖 - 在笔记本电脑上完全离线运行LLM 👾 - 通过应用内聊天UI或与OpenAI兼容的本地服务器使用模型 📂 - 从HuggingFace下载任何兼容的模型文件🤗 存储库 🔭 - 在应用程序主页中发现新的值得注意的LLM

网址地址： https://lmstudio.ai/

jungleford commented 2 weeks ago

🤖 - 在笔记本电脑上完全离线运行LLM

@leqisdu 看了下里边提供下载的模型，这笔记本是不是得有个至少8G显存的显卡啊？4G显存能跑吗？