Update app.py

app.py

@@ -16,31 +16,31 @@ from llama_index.core.node_parser import SentenceSplitter
 
 max_seq_length = 512 # Choose any! We auto support RoPE Scaling internally!
 
-# prompt = """Responde a preguntas de forma clara, amable, concisa y solamente en el lenguaje español, sobre el libro Ñande Ypykuéra.
-# Contexto
-# -------------------------
-# {}
-# -------------------------
-# ### Pregunta:
-# {}
-# ### Respuesta:
-# {}"""
-
-prompt = """Responde a preguntas de forma clara, amable, concisa y solamente en el lenguaje español.
-
+prompt = """Responde a preguntas de forma clara, amable, concisa y solamente en el lenguaje español, sobre el libro Ñande Ypykuéra.
+Contexto
 -------------------------
-Contexto: 
 {}
 -------------------------
-
 ### Pregunta:
 {}
-
-- Debes utilizar el contexto para responder la pregunta.
-
 ### Respuesta:
 {}"""
 
+# prompt = """Responde a preguntas de forma clara, amable, concisa y solamente en el lenguaje español.
+
+# -------------------------
+# Contexto: 
+# {}
+# -------------------------
+
+# ### Pregunta:
+# {}
+
+# - Debes utilizar el contexto para responder la pregunta.
+
+# ### Respuesta:
+# {}"""
+
 # Initialize the LLM
 llm = Llama(model_path="model.gguf",
             n_ctx=512,
@@ -91,7 +91,7 @@ def reformat_rag(results_rag):
 
 def chat_stream_completion(message, history):
 
-    context = ""#reformat_rag(RAG.search(message, DOC_PATH, k=2))
+    context = reformat_rag(RAG.search(message, None, k=2))
     context = " \n ".join(context)
 
     full_prompt = prompt.format(context,message,"")