search

xtekky / gpt4free

The official gpt4free repository | various collection of powerful language models
https://g4f.ai
GNU General Public License v3.0
62.36k stars 13.4k forks source link

Problem with HuggingFace #2037

Closed VlastikYoutubeKo closed 5 months ago

VlastikYoutubeKo commented 6 months ago

Bug description Downloaded Windows G4F, but tried on Python version (but got another error).

Windows:

  1. Open GUI of G4F in browser
  2. Select Hugging Face
  3. Send any prompt, get response with ��� in between words
  4. Try to send another prompt, get: KeyError: 'data'.

Python:

  1. Put gpt4free_client = Client( api_key="key", provider=g4f.Provider.HuggingFace ) to top

  2. Define the message

    system_prompt = (
    "Budeš můj pomáhač při vyhodnocování zpráv. Budu ti posílat zprávy, a ty jí vyhodnotíš. "
    f"Pokud bude zpráva mít stejný kontext jako fráze: {', '.join(trigger_phrases)}. Kdy může být napsáno jako kdi."
    "Taky, protože umíš česky, tak v Češtině může být více variací slov. Třeba kasa může být kasička, kasa, kassa."
    "Pokud vyhodnotíš zprávu, že se ptá na datum vydání update, či aktualizace, nebo kdy že výjde, odpovíš 'Ano' nebo 'Jo'. Zprávy mohou být i napsané negramotně, nebo s jinými I, třeba Y. Taky zprávy mohou být napsány agresivně, nebo jenom rychle, neboli jako 'kde update'."
    "Pokud ne, tak odpovíš 'ne'. Budeš odpovídat pouze s Ano, Jo, nebo Ne, NIC JINÉHO. Na konec nedávej ani tečky."
)

response = gpt4free_client.chat.completions.create(
    model="CohereForAI/c4ai-command-r-plus",
    messages=[{"role": "system", "content": system_prompt},{"role": "user", "content": message.author.name + ": " + message.content}])
  3. In console, I get this (link to self-hosted hastebin)

Screenshots Windows: image-gui image-cli

Python: image-pythonerror

Environment

Additional context n/a

kogakisaki commented 5 months ago

Bug description Downloaded Windows G4F, but tried on Python version (but got another error).

Windows:

  1. Open GUI of G4F in browser
  2. Select Hugging Face
  3. Send any prompt, get response with ��� in between words
  4. Try to send another prompt, get: KeyError: 'data'.

Python:

  1. Put gpt4free_client = Client( api_key="key", provider=g4f.Provider.HuggingFace ) to top
  2. Define the message
system_prompt = (
        "Budeš můj pomáhač při vyhodnocování zpráv. Budu ti posílat zprávy, a ty jí vyhodnotíš. "
        f"Pokud bude zpráva mít stejný kontext jako fráze: {', '.join(trigger_phrases)}. Kdy může být napsáno jako kdi."
        "Taky, protože umíš česky, tak v Češtině může být více variací slov. Třeba kasa může být kasička, kasa, kassa."
        "Pokud vyhodnotíš zprávu, že se ptá na datum vydání update, či aktualizace, nebo kdy že výjde, odpovíš 'Ano' nebo 'Jo'. Zprávy mohou být i napsané negramotně, nebo s jinými I, třeba Y. Taky zprávy mohou být napsány agresivně, nebo jenom rychle, neboli jako 'kde update'."
        "Pokud ne, tak odpovíš 'ne'. Budeš odpovídat pouze s Ano, Jo, nebo Ne, NIC JINÉHO. Na konec nedávej ani tečky."
    )

    response = gpt4free_client.chat.completions.create(
          model="CohereForAI/c4ai-command-r-plus",
      messages=[{"role": "system", "content": system_prompt},{"role": "user", "content": message.author.name + ": " + message.content}])
  1. In console, I get this (link to self-hosted hastebin)

Screenshots Windows: image-gui image-cli

Python: image-pythonerror

Environment

  • Python 3.12.2 on both machines
  • Czech Republic

Additional context n/aa

First, the string "�" appears to be "\u0000", which is a null character. This may be due to an error on the HuggingChat API side. (I also got the same error)

Next, it looks like you've used the Command-R+ model with the HuggingFace provider (Requires PRO subscription to use). Please ensure you have authenticated with the token if you have registered. Or instead use the HuggingChat provider which is free to use.

VlastikYoutubeKo commented 5 months ago

Hi. By PRO subscription, you mean what? subscription on HuggingFace? I got API token from HuggingFace's profile interface.

---------- Původní e-mail ---------- Od: Eien Mojiki 🍕 @.> Komu: xtekky/gpt4free @.> Datum: 05.06.2024 02:45:59 Předmět: Re: [xtekky/gpt4free] Problem with HuggingFace (Issue #2037)

"

"

Bug description Downloaded Windows G4F, but tried on Python version (but got another error).

Windows:

  1. Open GUI of G4F in browser

  2. Select Hugging Face

  3. Send any prompt, get response with ��� in between words

  4. Try to send another prompt, get: KeyError: 'data'.

Python:

  1. Put

    gpt4free_client = Client( api_key="key", provider=g4f.Provider. HuggingFace ) to top

  2. Define the message

system_prompt = (
"Budeš můj pomáhač při vyhodnocování zpráv. Budu ti posílat zprávy, a ty jí vyhodnotíš. "
f"Pokud bude zpráva mít stejný kontext jako fráze: {', '.join(trigger_phrases)}. Kdy může být napsáno jako kdi."
"Taky, protože umíš česky, tak v Češtině může být více variací slov. Třeba kasa může být kasička, kasa, kassa."
"Pokud vyhodnotíš zprávu, že se ptá na datum vydání update, či aktualizace, nebo kdy že výjde, odpovíš 'Ano' nebo 'Jo'. Zprávy mohou být i napsané negramotně, nebo s jinými I, třeba Y. Taky zprávy mohou být napsány agresivně, nebo jenom rychle, neboli jako 'kde update'."
"Pokud ne, tak odpovíš 'ne'. Budeš odpovídat pouze s Ano, Jo, nebo Ne, NIC JINÉHO. Na konec nedávej ani tečky."
)

response = gpt4free_client.chat.completions.create(
model="CohereForAI/c4ai-command-r-plus",
messages=[{"role": "system", "content": system_prompt},{"role": "user", "content": message.author.name + ": " + message.content}])

  1. In console, I get this (link to self-hosted hastebin) (https://mxnticek.cz.eu.org/aqijemekek.rust)

Screenshots Windows: (https://camo.githubusercontent.com/1cb54dd50c395570870c8fb216b8e33c0a8086c6140559919f841900604d809a/68747470733a2f2f692e696d6775722e636f6d2f6f7a75676773382e706e67)

(https://camo.githubusercontent.com/80eed270acfd0348ae665310bf08179757066ea9f3bb51987d8901fce81fe52f/68747470733a2f2f692e696d6775722e636f6d2f5438536e6664552e706e67)

Python: (https://camo.githubusercontent.com/b4960efcad0cf8a907f50bbdde31a74b8d02be577e8f8f9e466e74c4a8b1688b/68747470733a2f2f692e696d6775722e636f6d2f35546c6f54335a2e706e67)

Environment

Additional context n/aa

"

First, the string "�" appears to be "\u0000", which is a null character. This may be due to an error on the HuggingChat API side. (I also got the same error)

Next, it looks like you've used the Command-R+ model with the HuggingFace provider (Requires PRO subscription to use). Please ensure you have authenticated with the token if you have registered. Or instead use the HuggingChat provider which is free to use.

— Reply to this email directly, view it on GitHub (https://github.com/xtekky/gpt4free/issues/2037#issuecomment-2148636419), or unsubscribe (https://github.com/notifications/unsubscribe-auth/ANPD4GYJWTP7UKGRF7JB7ODZFZNUFAVCNFSM6AAAAABIVB2SSGVHI2DSMVQWIX3LMV43OSLTON2WKQ3PNVWWK3TUHMZDCNBYGYZTMNBRHE) . You are receiving this because you authored the thread. Message ID: <xtekky/ @.***>

"

comeback01 commented 5 months ago

I have the same problem. I posted a solution here; I hope it will be integrated:

https://github.com/xtekky/gpt4free/issues/2042

github-actions[bot] commented 5 months ago

Bumping this issue because it has been open for 7 days with no activity. Closing automatically in 7 days unless it becomes active again.

github-actions[bot] commented 5 months ago

Closing due to inactivity.