Closed flicksolutions closed 2 years ago
@l0rn0r im Moment bekomme ich immer nur einen einzigen Satz zurück. Ist etwas an meiner config falsch? Das ist die aktuelle config:
{
inputs: `Ich denke über ${$config.input},`,
temperature: $config.temp,
top_k: 50,
max_length: 1000,
num_return_sequences: 20,
wait_for_model: false,
use_cache: false
}
Auf oberster Ebene des Dicts hat man die Keys inputs, parameters, options (siehe HuggingFace API Doku). Letztere beide sollen dann jeweils Dicts mit den entsprechenden Einträgen enthalten. Hier:
{
inputs: `Ich denke über ${$config.input},`,
parameters: {
temperature: $config.temp,
top_k: 50,
num_return_sequences: 20,
},
options: {
wait_for_model: false,
use_cache: false
}
}
max_length
gibt es nicht (und es wäre zu viel...).
Es gibt max_new_tokens
mit der Range 0-250.
Danke! Jetzt kommen da schon viel interessantere Antworten!
Erstellen der Display-Seite. Funktionale Komponenten: