Update app.py
Browse files
app.py
CHANGED
@@ -26,7 +26,7 @@ def generate_response(input_text, tokenizer, model):
|
|
26 |
input_ids = tokenizer.encode(input_text, return_tensors="pt", max_length=512)
|
27 |
|
28 |
# Modell használata a válasz generálásához
|
29 |
-
output = model.generate(input_ids, max_length=
|
30 |
|
31 |
# Decoding és válasz visszaadása
|
32 |
response = tokenizer.decode(output[0], skip_special_tokens=True)
|
|
|
26 |
input_ids = tokenizer.encode(input_text, return_tensors="pt", max_length=512)
|
27 |
|
28 |
# Modell használata a válasz generálásához
|
29 |
+
output = model.generate(input_ids, max_length=200, num_return_sequences=1, pad_token_id=tokenizer.eos_token_id, max_new_tokens=100)
|
30 |
|
31 |
# Decoding és válasz visszaadása
|
32 |
response = tokenizer.decode(output[0], skip_special_tokens=True)
|