Closed yelban closed 2 months ago
現在、Groq APIの無料の大規模言語モデルを使用して推論することができ、応答時間を2秒以内、さらにそれ以下に短縮することが可能です。gemma-7b-it を選択すれば、約1秒で応答が開始されることさえあります。
AI Serviceを変更した後、設定ページのメニュー上の対応するモデルリストは更新されますが、バックエンドのモデル変数の内容は更新されません。このコミットにより、バックエンドのモデルが対応するAI Serviceのデフォルトモデル名に自動的に更新されるようになりました。
ありがとうございます!その点注意して確認します!
Groq APIのサポートが追加され、関連する設定と翻訳言語ファイルが更新されました。