Update app.py

app.py

@@ -63,9 +63,10 @@ def get_llm():
         "text-generation",
         model=model,
         tokenizer=tokenizer,
-        max_new_tokens=1024,
+        max_new_tokens=512,
         temperature=0.3,
-        eos_token_id=tokenizer.eos_token_id
+        eos_token_id=tokenizer.eos_token_id,
+        return_full_text=False
     )
 
     return HuggingFacePipeline(pipeline=text_pipeline)
@@ -85,10 +86,11 @@ def load_vector_store():
     return FAISS.load_local(VS_BASE, embedding_model, allow_dangerous_deserialization=True)
 
 def build_specialist_agents(vectorstore, llm):
+    
     template_base = (
-        "Você é um especialista da InfinityPay. Use o contexto abaixo para responder à pergunta de forma clara e precisa.\n\n"
-        "Contexto: {context}\n\nPergunta: {question}"
-    )
+    "Você é um especialista da InfinityPay. Use o contexto abaixo para responder à pergunta de forma clara e direta.\n\n"
+    "Contexto: {context}\n\nPergunta: {question}\n\nResposta:")
+
     prompt_template = PromptTemplate(template=template_base, input_variables=["context", "question"])
 
     def make_agent():