Spaces:
Paused
Paused
Update app.py
Browse files
app.py
CHANGED
@@ -22,12 +22,13 @@ def generate_response(prompt):
|
|
22 |
|
23 |
outputs = model.generate(
|
24 |
inputs.input_ids,
|
25 |
-
|
|
|
26 |
do_sample=True,
|
27 |
-
temperature=0.45, # 馃敼
|
28 |
-
top_p=0.9, # 馃敼 M谩s
|
29 |
-
repetition_penalty=1.1, # 馃敼 Evita repeticiones
|
30 |
-
early_stopping=
|
31 |
)
|
32 |
|
33 |
return tokenizer.decode(outputs[0], skip_special_tokens=True)
|
|
|
22 |
|
23 |
outputs = model.generate(
|
24 |
inputs.input_ids,
|
25 |
+
attention_mask=inputs.attention_mask, # 馃敼 Asegura que el modelo procese correctamente la entrada
|
26 |
+
max_new_tokens=50, # 馃敼 Control preciso sobre la generaci贸n
|
27 |
do_sample=True,
|
28 |
+
temperature=0.45, # 馃敼 Reduce la aleatoriedad sin hacer respuestas rob贸ticas
|
29 |
+
top_p=0.9, # 馃敼 M谩s fluidez y control en la elecci贸n de palabras
|
30 |
+
repetition_penalty=1.1, # 馃敼 Evita repeticiones innecesarias
|
31 |
+
early_stopping=False, # 馃敼 Ajustado para evitar la advertencia en Hugging Face
|
32 |
)
|
33 |
|
34 |
return tokenizer.decode(outputs[0], skip_special_tokens=True)
|