Open flocko-motion opened 5 months ago
Ähnlich zu "while a run"?
Ja, klingt nach dem selben Problem.
Ursache: wenn ein User einen Input schickt, während der letzte Output noch generiert wird, gibt es dieses Problem.
Wurde teilweise behoben durch das Update vom 20.6.2024. Dieses blockiert das senden weiterer Inputs für 7 sekunden nach dem letzten Abschicken.
Das ist eine einfache, aber keine 100% robuste Methode. Besser wäre eine freundliche Fehlermeldung "GPT is busy, please try again in a few seconds" - oder ähnliches. Dieser Fehler ist zu erwarten und sollte daher freundlich kommuniziert werden.
Kommt in den KVA.
When sending two prompts in short interval, an error message is produced - we should catch that error and react nicer