search

memochou1993 / gpt-ai-assistant

OpenAI + LINE + Vercel = GPT AI Assistant
https://memochou1993.github.io/gpt-ai-assistant-docs/
MIT License
7.23k stars 9.33k forks source link

指定 fine-tuned 模型 #298

Closed profwu closed 8 months ago

profwu commented 10 months ago

請問如何指定gpt model為自己fine tune後的模型? 要在那一隻程式的哪一個地方修改呢?

memochou1993 commented 10 months ago

@profwu

嗨。

我沒有試過，你可以試試看。

你是用 OpenAI 還是 Azure？

你的 fine-tune 完的模型，是否有得到 API 端點？

不確定是不是修改 OPENAI_BASE_URL 就好。

相關連結：

profwu commented 10 months ago

Hi,

我用的是openai的fine tune。我在Environment variable設定OPENAI_COMPLETION_MODEL=我的model名稱 然後在line中會出現這樣錯誤

POST https://api.openai.com/v1/completions Request failed with status code 404 This is a chat model and not supported in the v1/completions endpoint. Did you mean to use v1/chat/completions?

memochou1993 commented 10 months ago

@profwu

你的 fine-tune 完的模型，是否有得到 API 端點？

tonylmm commented 8 months ago

想請教一下，在openai中的fine tuning後，並非得到api的端點，而只有得到一個模型的新名稱，像這樣ft:gpt-3.5-turbo-0613:personal::8ArgcXXX和job id像這樣ftjob-7ZZQFjR3ENWpyTo5c0JWuXXX。不知道該如何在您建構的這個LineBot中作使用???

memochou1993 commented 8 months ago

@tonylmm

修改 Vercel 的環境變數：

OPENAI_COMPLETION_MODEL=ft:gpt-3.5-turbo:my-org:custom_suffix:id
tonylmm commented 8 months ago

@tonylmm

修改 Vercel 的環境變數：

OPENAI_COMPLETION_MODEL=ft:gpt-3.5-turbo:my-org:custom_suffix:id

非常感謝您的回覆，在下受益良多。 但嘗試在Vercel的環境變數中，加入了自己的model id後，也是得到像上面朋友的結果， POST https://api.openai.com/v1/completions Request failed with status code 404 This is a chat model and not supported in the v1/completions endpoint. Did you mean to use v1/chat/completions? 不知道問題出在那裏???

memochou1993 commented 8 months ago

@tonylmm

感謝回報。

請拉 4.8.0 版，然後再試一次看看。

tonylmm commented 8 months ago

太感謝您了，果然用4.8.0的版本就可以了呢，辛苦您了。

profwu commented 8 months ago

請問怎樣變成4.8.0版本呢？

Memo Chou @.***> 於 2023年12月8日 週五 00:45 寫道：

Closed #298 https://github.com/memochou1993/gpt-ai-assistant/issues/298 as completed.

— Reply to this email directly, view it on GitHub https://github.com/memochou1993/gpt-ai-assistant/issues/298#event-11184326504, or unsubscribe https://github.com/notifications/unsubscribe-auth/AI6YVO45CGLXFWDP52CJ42LYIHXBBAVCNFSM6AAAAAA6A7UXMKVHI2DSMVQWIX3LMV45UABCJFZXG5LFIV3GK3TUJZXXI2LGNFRWC5DJN5XDWMJRGE4DIMZSGY2TANA . You are receiving this because you were mentioned.Message ID: @.*** com>

memochou1993 commented 8 months ago

@profwu

可以參考這個：

https://memochou1993.github.io/gpt-ai-assistant-docs/update.html#更新步驟