SmartFitStudio / FitnessWebAppWithRAG

0 stars 0 forks source link

Testare l'interfacciamento diretto con Gemini anzichè attraverso langchain #36

Closed AlexVedovato closed 3 months ago

AlexVedovato commented 3 months ago

ChatVertexAI(model_name="gemini-pro") di langhcain e GenerativeModel("gemini-pro") di vertexai non presentano alcuna differenza sostanziale GenerativeModel("gemini-1.5-flash-preview-0514") di vertexai è meglio (come ci si può intuitivamente aspettare), ma senza una differenza abissale e, soprattutto, ha un costo maggiore ChatVertexAI(), ovvero PaLM2 di langchain, è il migliore nella chat, con risposte coincise e puntuali, ma il peggiore nella generazione di allenamenti in formato json ChatOllama(model="phi3") ha lo svantaggio di essere troppo lento (per la poca potenza di calcolo a mia disposizione). A livello di risposte è inferiore ad entrambe le versioni di Gemini in tutto ChatOpenAI(model="gpt-3.5-turbo", temperature=0, api_key="demo") non va

In conclusione: migliore per la chat: PaLM2 di langchain migliore per la generazione di json: gemini-1.5-flash-preview-0514 di vertexai migliore per entrambi: gemini-1.5-flash-preview-0514 di vertexai migliore tenendo conto anche dei costi: gemini-pro (versione 1.0)