update guis 10

app.py

@@ -8,72 +8,71 @@ from langchain_huggingface.llms import HuggingFacePipeline
 from langchain.chains import RetrievalQA
 from transformers import pipeline
 
-# 1) Ladda och indexera alla PDF-filer
+# 1) Ladda och indexera PDF:er
 def load_vectorstore():
-    all_docs, loaded_files = [], []
+    all_docs, files = [], []
     for fn in os.listdir("document"):
         if fn.lower().endswith(".pdf"):
             path = os.path.join("document", fn)
-            loader = PyPDFLoader(path)
-            docs = loader.load_and_split()
+            docs = PyPDFLoader(path).load_and_split()
             all_docs.extend(docs)
-            loaded_files.append(fn)
-    embedding = HuggingFaceEmbeddings(model_name="KBLab/sentence-bert-swedish-cased")
-    vectorstore = FAISS.from_documents(all_docs, embedding)
-    return vectorstore, loaded_files
+            files.append(fn)
+    emb = HuggingFaceEmbeddings(model_name="KBLab/sentence-bert-swedish-cased")
+    vs = FAISS.from_documents(all_docs, emb)
+    return vs, files
 
-# 2) Bygg UI + logik i Gradio
+# 2) Skapa Blocks-layout
 with gr.Blocks() as demo:
-    # A) Status‐meddelande under uppstart
+    # A) Status under uppstart
     status = gr.Markdown("🔄 Laddar dokument och modell, vänta…", elem_id="status-text")
-
-    # B) Börja indexera och initiera modell
-    vectorstore, files = load_vectorstore()
+    
+    # B) Indexera och initiera
+    vectorstore, loaded_files = load_vectorstore()
     llm_pipe = pipeline("text-generation", model="tiiuae/falcon-rw-1b", device=-1)
     llm = HuggingFacePipeline(
         pipeline=llm_pipe,
         model_kwargs={"temperature": 0.3, "max_new_tokens": 512}
     )
-    qa_chain = RetrievalQA.from_chain_type(llm=llm, retriever=vectorstore.as_retriever())
+    qa = RetrievalQA.from_chain_type(llm=llm, retriever=vectorstore.as_retriever())
 
-    # C) Dölj status‐text och visa PDF‐listan när klart
+    # C) Dölj status och visa PDF-lista
     status.visible = False
-    file_list_md = "\n".join(f"- {f}" for f in files)
     gr.Markdown(
-        f"✅ Klar! Du kan nu ställa frågor om dokumenten nedan:\n\n{file_list_md}",
+        "✅ Klar! Du kan nu ställa frågor om dokumenten nedan:\n\n" +
+        "\n".join(f"- {f}" for f in loaded_files),
         elem_id="status-text"
     )
 
-    # D) Temperature‐slider och Chatbot
-    temp_slider = gr.Slider(
-        minimum=0.0, maximum=1.0, value=0.3, step=0.05,
-        label="Temperatur (kreativitetsgrad)"
-    )
+    # D) Temperatur-slider och text-inmatning + knapp
+    with gr.Row():
+        txt = gr.Textbox(label="Din fråga:")
+        temp = gr.Slider(0, 1, value=0.3, step=0.05, label="Temperatur")
+        send = gr.Button("Skicka")
 
-    def chat_fn(message, temp, history):
-        # Skydd mot alltför långa frågor
+    # E) Chatbot-komponent (OpenAI-stil)
+    chatbot = gr.Chatbot([], type="messages")
+
+    # F) Logik för chatten
+    def chat_fn(message, temperature, history):
+        # kortare skydd
         if len(message) > 1000:
-            return [], [{"role":"assistant","content":
-                f"⚠️ Din fråga är för lång ({len(message)} tecken). Försök korta ner den."}]
-        # Uppdatera temperatur dynamiskt
-        llm.model_kwargs["temperature"] = temp
+            history = history or []
+            history.append(("⚠️ Din fråga är för lång, korta ner den.", ""))
+            return history
+        # uppdatera temp
+        llm.model_kwargs["temperature"] = temperature
         try:
-            resp = qa_chain.invoke({"query": message})
-            assistant_msg = resp["result"]
+            out = qa.invoke({"query": message})["result"]
         except Exception as e:
-            assistant_msg = f"Ett fel uppstod: {e}"
-        # Returnera hela historiken i OpenAI-stil
+            out = f"Ett fel uppstod: {e}"
+        # bygg historia som tupler
         history = history or []
-        history.append({"role":"user","content":message})
-        history.append({"role":"assistant","content":assistant_msg})
-        return history, history
+        history.append((message, out))
+        return history
 
-    gr.ChatInterface(
-        fn=chat_fn,
-        inputs=[gr.Textbox(label="Skriv din fråga här:"), temp_slider],
-        title="🌟 Dokumentassistent (Svenska)",
-        description="Hej! Ställ en fråga baserat på dina PDF-dokument.",
-        chatbot=gr.Chatbot(type="messages")
-    )
+    # G) Koppla knapp till chat_fn
+    send.click(fn=chat_fn,
+               inputs=[txt, temp, chatbot],
+               outputs=chatbot)
 
 demo.launch()