albhu commited on
Commit
daf0121
·
verified ·
1 Parent(s): 9691403

Update app.py

Browse files
Files changed (1) hide show
  1. app.py +1 -1
app.py CHANGED
@@ -26,7 +26,7 @@ def generate_response(input_text, tokenizer, model):
26
  input_ids = tokenizer.encode(input_text, return_tensors="pt", max_length=512)
27
 
28
  # Modell használata a válasz generálásához
29
- output = model.generate(input_ids, max_length=len(input_ids[0]) + 50, num_return_sequences=1, pad_token_id=tokenizer.eos_token_id, max_new_tokens=100)
30
 
31
  # Decoding és válasz visszaadása
32
  response = tokenizer.decode(output[0], skip_special_tokens=True)
 
26
  input_ids = tokenizer.encode(input_text, return_tensors="pt", max_length=512)
27
 
28
  # Modell használata a válasz generálásához
29
+ output = model.generate(input_ids, max_length=200, num_return_sequences=1, pad_token_id=tokenizer.eos_token_id, max_new_tokens=100)
30
 
31
  # Decoding és válasz visszaadása
32
  response = tokenizer.decode(output[0], skip_special_tokens=True)