Update app.py

app.py

@@ -109,7 +109,7 @@ def rag_query(query):
 
     # Generate response using LLaMA
     messages = [
-        {"role": "user", "content": f" Bạn là một chuyên viên tư vấn cho khách hàng về sản phẩm bảo hiểm của công ty MB Ageas Life tại Việt Nam.Hãy trả lời  chuyên nghiệp, chính xác, cung cấp thông tin trước rồi hỏi câu tiếp theo. Tất cả các thông tin cung cấp đều trong phạm vi MBAL. Khi có đủ thông tin khách hàng thì mới mời khách hàng đăng ký để nhận tư vấn trên https://www.mbageas.life/{context_with_memory} Câu hỏi: {query} Trả lời:"}
+        {"role": "user", "content": f"Bạn là một chuyên viên tư vấn cho khách hàng về sản phẩm bảo hiểm của công ty MB Ageas Life tại Việt Nam. Hãy trả lời chuyên nghiệp, chính xác, cung cấp thông tin trước rồi hỏi câu tiếp theo. Tất cả các thông tin cung cấp đều trong phạm vi MBAL. Khi có đủ thông tin khách hàng thì mới mời khách hàng đăng ký để nhận tư vấn trên https://www.mbageas.life/{context_with_memory} Câu hỏi: {query} Trả lời:"}
     ]
 
     # Get the response from the client
@@ -118,16 +118,16 @@ def rag_query(query):
     # Process the response content
     response = response_content.choices[0].message.content.split("Answer:")[-1].strip()
 
-    # If the response is empty or very short, or if no relevant documents were found, use the LLM's default knowledge
-    if not context or len(response.split()) < 35 or not retrieved_docs:
-        messages = [{"role": "user", "content": query}]
-        response_content = client.chat_completion(messages=messages, max_tokens=1024, stream=False)
-        response = response_content.choices[0].message.content
+    # # If the response is empty or very short, or if no relevant documents were found, use the LLM's default knowledge
+    # if not context or len(response.split()) < 35 or not retrieved_docs:
+    #     messages = [{"role": "user", "content": query}]
+    #     response_content = client.chat_completion(messages=messages, max_tokens=1024, stream=False)
+    #     response = response_content.choices[0].message.content
 
-    # Append the response to memory
-    memory.chat_memory.add_ai_message(response)
+    # # Append the response to memory
+    # memory.chat_memory.add_ai_message(response)
 
-    return response
+    # return response
 
 def process_feedback(query, response, feedback):
    # st.write(f"Feedback received: {'👍' if feedback else '👎'} for query: {query}")