joackoEsp commited on
Commit
44005d4
verified
1 Parent(s): 61e43c4

Update app.py

Browse files
Files changed (1) hide show
  1. app.py +6 -5
app.py CHANGED
@@ -22,12 +22,13 @@ def generate_response(prompt):
22
 
23
  outputs = model.generate(
24
  inputs.input_ids,
25
- max_new_tokens=50, # 馃敼 En vez de max_length (mejor control de generaci贸n)
 
26
  do_sample=True,
27
- temperature=0.45, # 馃敼 Menos aleatoriedad, m谩s coherencia
28
- top_p=0.9, # 馃敼 M谩s controlado
29
- repetition_penalty=1.1, # 馃敼 Evita repeticiones
30
- early_stopping=True,
31
  )
32
 
33
  return tokenizer.decode(outputs[0], skip_special_tokens=True)
 
22
 
23
  outputs = model.generate(
24
  inputs.input_ids,
25
+ attention_mask=inputs.attention_mask, # 馃敼 Asegura que el modelo procese correctamente la entrada
26
+ max_new_tokens=50, # 馃敼 Control preciso sobre la generaci贸n
27
  do_sample=True,
28
+ temperature=0.45, # 馃敼 Reduce la aleatoriedad sin hacer respuestas rob贸ticas
29
+ top_p=0.9, # 馃敼 M谩s fluidez y control en la elecci贸n de palabras
30
+ repetition_penalty=1.1, # 馃敼 Evita repeticiones innecesarias
31
+ early_stopping=False, # 馃敼 Ajustado para evitar la advertencia en Hugging Face
32
  )
33
 
34
  return tokenizer.decode(outputs[0], skip_special_tokens=True)