binary-husky / gpt_academic

为GPT/GLM等LLM大语言模型提供实用化交互接口,特别优化论文阅读/润色/写作体验,模块化设计,支持自定义快捷按钮&函数插件,支持Python和C++等项目剖析&自译解功能,PDF/LaTex论文翻译&总结功能,支持并行问询多种LLM模型,支持chatglm3等本地模型。接入通义千问, deepseekcoder, 讯飞星火, 文心一言, llama2, rwkv, claude2, moss等。
https://github.com/binary-husky/gpt_academic/wiki/online
GNU General Public License v3.0
63.93k stars 7.9k forks source link

[Bug]: claude3第三方接入遇到的问题 #1675

Closed lizkefan closed 5 months ago

lizkefan commented 5 months ago

Installation Method | 安装方法与平台

Docker-Compose(Linux)

Version | 版本

Latest | 最新版

OS | 操作系统

Docker

Describe the bug | 简述

部署方法:1panel + docker-compose

用途:访问第三方服务提供商提供的 API,以取代官方的 GPT4.0 和 CLAUDE3

自己修改过的文件: 4.0 修改方法: a.修改 config.py > 添加 GPT4_API-KEY 值并将其添加到 yml 文件中 b.修改 bridge_all.py > 添加 third_endpoint,并替换以 gpt4- 开头的endpoint c. 修改 key_pattern_manager.py > 添加了

      if ('azure' not in llm_model) and ('gpt4' in llm_model or 'gpt-4' in llm_model):
              GPT4_API_KEY = get_conf('GPT4_API_KEY')
              if len(GPT4_API_KEY) > 0:
                  avail_key_list = GPT4_API_KEY.split(',')
  重启后使用正常

claude3修改方法: a.修改 config.py > 添加 ANTHROPIC_API_KEY 值并将其添加到 yml 文件中 b.修改 bridge_all.py > 添加 claude3_third_endpoint,并替换以 claude- 开头的endpoint

  **重启后一直处于响应状态**;此外,claude3的api好像只能通过yml或者config传入,不支持临时对话框输入?

Screen Shot | 有帮助的截图

8c6a7158940ea8e31e9414ba199af90a

Terminal Traceback & Material to Help Reproduce Bugs | 终端traceback(如有) + 帮助我们复现的测试材料样本(如有)

暂无

lizkefan commented 5 months ago

请各位大佬们指点一下,感激感激

binary-husky commented 5 months ago

https://github.com/binary-husky/gpt_academic/wiki/%E5%A6%82%E4%BD%95%E6%9B%B4%E4%BE%BF%E6%8D%B7%E5%9C%B0%E6%8E%A5%E5%85%A5one%E2%80%90api

lizkefan commented 5 months ago

感谢指点。但这样操作是直接把整个模型的api都替换了。我进需要替换一部分。我尝试修改了one-api model里的endpoint。但是通过网页输入的api 提示 “您提供的api-key不满足要求,不包含任何可用于one-api-claude-3-opus-20240229的api-key。您可能选择了错误的模型或请求源。”

lizkefan commented 5 months ago

应该是 gpt3.5 和 4.0是用官方的。 claude是第三方的