CompletionObjectのmax_tokensの設定

[shun-harutaro]

概要

現在、APIに渡すのはChatGPTへのメッセージのみ

目的

• オブジェクトの require のみしか入力していない状態
• 文字数を厳格に設定したい。

実装方法・タスク

• [x] max_tokensを設定して、最大文字数を設定

参考資料

[shun-harutaro]

https://platform.openai.com/docs/api-reference/chat/object

{
  "id": "chatcmpl-123",
  "object": "chat.completion",
  "created": 1677652288,
  "model": "gpt-3.5-turbo-0125",
  "system_fingerprint": "fp_44709d6fcb",
  "choices": [{
    "index": 0,
    "message": {
      "role": "assistant",
      "content": "\n\nHello there, how may I assist you today?",
    },
    "logprobs": null,
    "finish_reason": "stop"
  }],
  "usage": {
    "prompt_tokens": 9,
    "completion_tokens": 12,
    "total_tokens": 21
  }
}

[shun-harutaro]

ひとまず。max_tokenのみ設定