tegnike / aituber-kit

AITuber Kit
MIT License
145 stars 25 forks source link

Groq apiを選択できるようにしました #22

Closed yelban closed 2 months ago

yelban commented 2 months ago

Groq APIのサポートが追加され、関連する設定と翻訳言語ファイルが更新されました。

image
yelban commented 2 months ago

現在、Groq APIの無料の大規模言語モデルを使用して推論することができ、応答時間を2秒以内、さらにそれ以下に短縮することが可能です。gemma-7b-it を選択すれば、約1秒で応答が開始されることさえあります。

AI Serviceを変更した後、設定ページのメニュー上の対応するモデルリストは更新されますが、バックエンドのモデル変数の内容は更新されません。このコミットにより、バックエンドのモデルが対応するAI Serviceのデフォルトモデル名に自動的に更新されるようになりました。

tegnike commented 2 months ago

ありがとうございます!その点注意して確認します!