search

yanyue404 / blog

Just blog and not just blog.
https://yanyue404.github.io/blog/
Other
87 stars 13 forks source link

AI 应用全指南：免费使用、ChatGPT API和疑问解答一网打尽 #278

Open yanyue404 opened 3 weeks ago

yanyue404 commented 3 weeks ago

免费 AI 使用

免费 GPT 模型

基础的 GPT 3.5 可以每天免费使用，GPT 4 需要升级付费

国产 AI 模型

编程

免费 ChatGPT API

1. 非流接入

const axios = require("axios");

async function getChatGptResponse(prompt) {
  const url= 'https://api.gptgod.online/v1/chat/completions',
  const headers = {
    Authorization: "Bearer YOUR_OPENAI_API_KEY",
    "Content-Type": "application/json",
  };
  const data = {
    model: "gpt-4",
    messages: [
      { role: "system", content: "You are a helpful assistant." },
      { role: "user", content: prompt },
    ],
  };

  try {
    const response = await axios.post(url, data, { headers: headers });
    return response.data;
  } catch (error) {
    console.error(error);
  }
}

// 使用示例
getChatGptResponse("gpt-3.5-turbo 、gpt-3.5-turbo-16k 、 gpt-4 版本的模型有什么详细的区别?").then((response) => {
  /* GPT-3.5-turbo、GPT-3.5-turbo-16k 和 GPT-4 是 OpenAI 发布的不同版本的语言模型。它们在能力、参数、应用场景和价格等方面有所不同。以下是这些版本的详细区别：

    ### GPT-3.5-turbo
    - **参数规模**：具体参数尚未公开，但相比 GPT-3 有优化。
    - **性能**：相比于 GPT-3 标准版本（如 DaVinci），在许多任务上提供了更快的响应时间，同时在一些任务上性能也有提升。
    - **应用场景**：适用于一般的对话、生成内容、回答问题等任务。
    - **价格**：相对较低，更具性价比，尤其适合高频率 API 调用。

    ### GPT-3.5-turbo-16k
    - **参数规模**：同样具体参数尚未公开，但提供了更大的上下文窗口。
    - **性能**：拥有 16k tokens 的上下文长度，适用于处理更长的对话或更大篇幅的文本。
    - **应用场景**：适合需要处理大量上下文信息的任务，如长篇文章生成、复杂对话管理等。
    - **价格**：价格较GPT-3.5-turbo版本稍高，但在处理长对话或长文档时表现更优。

    ### GPT-4
    - **参数规模**：更大的参数规模（具体数量未公开），相比于 GPT-3.5 系列有显著提高。
    - **性能**：
      - 更高的准确性和流畅性，尤其在复杂任务上表现更出色。
      - 更强的推理能力和自然语言理解能力。
    - **多模态能力**：GPT-4 可以处理图像输入（这是一个巨大的改进），不仅限于文本输入。
    - **应用场景**：
      - 高级对话系统、复杂内容生成、高复杂度的任务。
      - 教育、医疗、法律等领域的专业应用。
    - **价格**：相比 GPT-3.5 和 GPT-3.5-turbo 版本更高，但对应的性能与能力提升显著。

    ### 总结
    - **GPT-3.5-turbo**：适合普通的对话和文本生成任务，具有较高的性价比。
    - **GPT-3.5-turbo-16k**：适合需要处理长文本或长对话的任务，拥有更大的上下文窗口。
    - **GPT-4**：性能最强，适合专业性强、高复杂度的任务，有更好的自然语言理解和生成能力，甚至可以处理图像输入。

    选择哪个模型版本应根据具体的应用场景和预算来决定。 */
  console.log(response?.choices?.[0]?.message?.content);
});

2. 流接入

import es from "event-stream";
import axios from "axios";

async function chat() {
  const res = await axios({
    url: "https://api.gptgod.online/v1/chat/completions",
    method: "post",
    headers: {
      Authorization: `Bearer ${process.env.OPENAI_API_KEY}`
    },
    // gpt-3.5-turbo
    data: {
      model: "gpt-3.5-turbo",
      messages: [
        { role: "system", content: "You are a helpful assistant." },
        { role: "user", content: "Hello, how are you?" }
      ],
      stream: true
    },
    responseType: "stream"
  });
  res.data
    .pipe(es.split())
    .pipe(es.split(/\r?\n\r?\n/))
    .on("data", (chunk: any) => {
      const dataStr = chunk.replace("data: ", "");
      if (dataStr === "[DONE]") {
        return;
      }
      const data = JSON.parse(dataStr);
      const [
        {
          delta: { content = "" },
          finish_reason
        }
      ] = data.choices;
      console.log(`recv content: ${content}`);
    })
    .on("close", () => {
      console.log("stream end");
    });
}

付费 API

常见软件/插件

购买的 API 需要搭配第三方软件或者插件使用，如浏览器插件 ChatGPT Sidebar 等。以下所有插件均为我们实际体验后感觉不错的软件/插件。

ChatBox(推荐使用)

ChatGPT 开源桌面应用，支持全部桌面平台。

下载链接：https://github.com/Bin-Huang/chatbox/releases

网页版地址: https://web.chatboxai.app

使用方法：如图在设置中填入购买的密钥，并将代理设置为https://api.chatanywhere.tech即可

BotGem(支持移动端,还有读图)

官网: https://bytemyth.com/ama

浏览器插件 ChatGPT Siderbar

官网链接：https://chatgpt-sidebar.com/

安装好插件后进入设置页面，如图所示修改设置，并将 url 设置为https://api.chatanywhere.tech即可。

GPTCraft

朋友自己写的项目 UI 比较不错, 使用比较简单 项目地址: https://github.com/onlyGuo/chatgpt_desktop

Gomoon 支持读文件

Gomoon 是一款开源的桌面大模型应用，支持 mac 和 Windows 平台。额外支持了解析文件、图片，本地知识库等能力。

官网地址：https://gomoon.top

使用方法，进入 Gomoon 设置页面(页面右上角)，如图在设置中填入密钥，并将代理设置为https://api.chatanywhere.tech/v1

疑问解答

1. 什么是 gpt ？

GPT 是“Generative Pre-trained Transformer”的缩写，翻译为中文即“生成式预训练转换器”。GPT 是一种基于深度学习的语言模型架构，由 OpenAI 团队开发。它基于 Transformer 架构，通过在海量的文本数据上进行预训练，学习到语言规律和语义关系，然后可以应用于各种自然语言处理任务，例如文本生成、问答系统、机器翻译等。

GPT 模型以前训练的语言知识为基础，可以根据输入的文本生成连贯、富有语义的输出。它使用自回归的方式，逐词生成预测下一个词的概率分布，因此可以用来生成新文本、回答问题或完成其他文本生成任务。

最初的 GPT 模型是 GPT-1，在此基础上，OpenAI 推出了多个更新版本，如 GPT-2、GPT-3 等，每个版本都迭代改进了模型的性能和生成能力。这些 GPT 模型在自然语言处理领域取得了很大的研究突破，并被广泛应用于各种实际应用中。

2. gpt-3.5-turbo 、gpt-3.5-turbo-16k 、 gpt-4 版本的模型有什么详细的区别

gpt-3.5-turbo、gpt-3.5-turbo-16k 和 gpt-4 是 OpenAI 的语言模型版本，在以下方面有详细的区别：

模型大小：gpt-3.5-turbo-16k 的模型比 gpt-3.5-turbo 的模型大 16 倍，而 gpt-4 的模型相对更大。较大的模型通常意味着更多的参数和更强大的模型性能。

文本限制：gpt-3.5-turbo 支持的最大文本输入限制为 4096 个令牌，而 gpt-3.5-turbo-16k 支持的最大文本输入限制为 16384 个令牌。相比之下，gpt-4 的文本限制还要更高，但具体数值可能因发布时的具体配置而有所不同。

性能和生成能力：随着模型的迭代升级，新版本往往会带来更强大的性能和生成能力。随着模型升级到 gpt-4，您可以期待更加准确、多样和有创造性的输出。

这些是这三个版本之间的一些主要区别。一般来说，较新的版本将具有更好的性能和功能，但在选择模型时，可能需要权衡模型大小、资源消耗和具体任务需求。

补充： gpt-3.5-turbo-16k 知识更新日期（2022 年 10 月）

3. 什么是大模型？

大模型是指具有大规模参数和复杂结构的人工智能模型。

大模型通常基于深度学习技术，通过在海量的数据上进行训练，从而学习到各种知识和模式。

这些模型具有强大的语言理解、生成、推理等能力。例如，像 ChatGPT 这样的大语言模型，能够生成自然流畅的文本，回答各种问题，进行对话，甚至能够进行一定程度的逻辑推理和创造性写作。

大模型的参数数量往往达到数十亿甚至数千亿级别，这使得它们能够捕捉到极其丰富和细致的语言特征和语义信息。

以图像识别领域的大模型为例，它们可以准确识别和分类各种复杂的图像场景。

在实际应用中，大模型被广泛应用于自然语言处理、计算机视觉、语音识别、智能客服、智能写作等众多领域，为人们的生活和工作带来了极大的便利和效率提升。但同时，大模型的发展也带来了一些挑战，如计算资源需求巨大、数据隐私保护、可能产生的偏差和误导等问题。

4. 开发过程中可以如何使用 AI？

我问了鹅厂程序员：你们工作中怎么用 ChatGPT？如何高效 Prompt？

5. 自己如何实现 Chat GPT 的聊天效果？

了解更多

参考