Update app.py

app.py

@@ -16,13 +16,28 @@ from llama_index.core.node_parser import SentenceSplitter
 
 max_seq_length = 512 # Choose any! We auto support RoPE Scaling internally!
 
-prompt = """Responde a preguntas de forma clara, amable, concisa y solamente en el lenguaje español, sobre el libro Ñande Ypykuéra.
-Contexto
+# prompt = """Responde a preguntas de forma clara, amable, concisa y solamente en el lenguaje español, sobre el libro Ñande Ypykuéra.
+# Contexto
+# -------------------------
+# {}
+# -------------------------
+# ### Pregunta:
+# {}
+# ### Respuesta:
+# {}"""
+
+prompt = """Responde a preguntas de forma clara, amable, concisa y solamente en el lenguaje español.
+
 -------------------------
+Contexto: 
 {}
 -------------------------
+
 ### Pregunta:
 {}
+
+- Debes utilizar el contexto para responder la pregunta.
+
 ### Respuesta:
 {}"""
 
@@ -49,6 +64,9 @@ print(os.getcwd())
 
 # if os.path.exists(DOC_PATH):
 RAG = RAGPretrainedModel.from_index(DOC_PATH, n_gpu=None)
+
+print(RAG)
+
 # else:
 #   RAG = RAGPretrainedModel.from_pretrained("AdrienB134/ColBERTv2.0-spanish-mmarcoES")
 #   my_documents = list_nodes
@@ -73,7 +91,7 @@ def reformat_rag(results_rag):
 
 def chat_stream_completion(message, history):
 
-    context = reformat_rag(RAG.search(message, DOC_PATH, k=2))
+    context = ""#reformat_rag(RAG.search(message, DOC_PATH, k=2))
     context = " \n ".join(context)
 
     full_prompt = prompt.format(context,message,"")