XA-vito commited on
Commit
32087ce
·
verified ·
1 Parent(s): b6f8f41

Update app.py

Browse files
Files changed (1) hide show
  1. app.py +14 -10
app.py CHANGED
@@ -101,18 +101,22 @@ def conversar_con_colmena(mensaje):
101
 
102
  with torch.no_grad():
103
  output = model.generate(
104
- **inputs,
105
- max_length=200,
106
- do_sample=True,
107
- top_p=0.9
 
 
 
 
108
  )
109
 
110
- respuesta = tokenizer.decode(output[0], skip_special_tokens=True)
111
- print(f"✅ Respuesta generada por la IA: {respuesta}") # 👈 Agrega este print para ver la respuesta generada
112
-
113
- memory.save_context({"input": mensaje}, {"output": respuesta})
114
-
115
- return respuesta
116
 
117
 
118
  iface = gr.Interface(
 
101
 
102
  with torch.no_grad():
103
  output = model.generate(
104
+ **inputs,
105
+ max_length=150, # Reduce el tamaño máximo para evitar que se quede colgado
106
+ do_sample=True, # Sampling activado para más variabilidad
107
+ top_k=50, # Controla la aleatoriedad para evitar salidas vacías
108
+ temperature=0.7, # Ajusta la creatividad de la respuesta
109
+ pad_token_id=tokenizer.eos_token_id # Evita errores de padding
110
+ )
111
+
112
  )
113
 
114
+ respuesta = tokenizer.decode(output[0], skip_special_tokens=True).strip()
115
+
116
+ print(f"✅ Respuesta generada por la IA: '{respuesta}'") # 👈 Para ver si está vacío
117
+
118
+ if not respuesta:
119
+ return "🤖 No pude generar una respuesta. Inténtalo de nuevo con otra pregunta."
120
 
121
 
122
  iface = gr.Interface(