update guis 9

app.py

@@ -1,99 +1,79 @@
 import gradio as gr
+import os
+
 from langchain_community.document_loaders import PyPDFLoader
 from langchain_community.vectorstores import FAISS
 from langchain_huggingface.embeddings import HuggingFaceEmbeddings
 from langchain_huggingface.llms import HuggingFacePipeline
 from langchain.chains import RetrievalQA
 from transformers import pipeline
-import os
 
-# 1. Ladda och indexera alla PDF:er i mappen "document/"
-# Returnerar vectorstore och lista över filnamn
+# 1) Ladda och indexera alla PDF-filer
 def load_vectorstore():
-    all_docs = []
-    loaded_files = []
-    for filename in os.listdir("document"):
-        if filename.endswith(".pdf"):
-            path = os.path.join("document", filename)
+    all_docs, loaded_files = [], []
+    for fn in os.listdir("document"):
+        if fn.lower().endswith(".pdf"):
+            path = os.path.join("document", fn)
             loader = PyPDFLoader(path)
             docs = loader.load_and_split()
             all_docs.extend(docs)
-            loaded_files.append(filename)
+            loaded_files.append(fn)
     embedding = HuggingFaceEmbeddings(model_name="KBLab/sentence-bert-swedish-cased")
     vectorstore = FAISS.from_documents(all_docs, embedding)
     return vectorstore, loaded_files
 
-# 2. Skapa RAG-chain med given temperatur
-def create_chain(vectorstore, temp):
-    llm_pipeline = pipeline(
-        "text-generation", model="tiiuae/falcon-rw-1b", device=-1
-    )
-    llm = HuggingFacePipeline(
-        pipeline=llm_pipeline,
-        model_kwargs={"temperature": temp, "max_new_tokens": 512},
-    )
-    return RetrievalQA.from_chain_type(
-        llm=llm, retriever=vectorstore.as_retriever()
-    )
-
-# 3. Gradio UI
+# 2) Bygg UI + logik i Gradio
 with gr.Blocks() as demo:
-    # Temperatur-reglage
-    temp_slider = gr.Slider(
-        label="🎛️ Temperatur (0 = exakt, 1 = kreativ)",
-        minimum=0.0,
-        maximum=1.0,
-        value=0.3,
-        step=0.05,
-    )
-    # Chat-komponent (OpenAI-stil)
-    chatbot = gr.Chatbot(type="messages")
-    input_box = gr.Textbox(label="Din fråga")
-    send_button = gr.Button("Skicka")
+    # A) Status‐meddelande under uppstart
+    status = gr.Markdown("🔄 Laddar dokument och modell, vänta…", elem_id="status-text")
 
-    # Ladda vectorstore och initiera QA-chain
-    vectorstore, loaded_files = load_vectorstore()
-    qa_chain = create_chain(vectorstore, temp_slider.value)
+    # B) Börja indexera och initiera modell
+    vectorstore, files = load_vectorstore()
+    llm_pipe = pipeline("text-generation", model="tiiuae/falcon-rw-1b", device=-1)
+    llm = HuggingFacePipeline(
+        pipeline=llm_pipe,
+        model_kwargs={"temperature": 0.3, "max_new_tokens": 512}
+    )
+    qa_chain = RetrievalQA.from_chain_type(llm=llm, retriever=vectorstore.as_retriever())
 
-    # Visa status och vilka PDF:er som laddats
-    gr.Markdown("🔄 Laddar modellen, vänta...")
+    # C) Dölj status‐text och visa PDF‐listan när klart
+    status.visible = False
+    file_list_md = "\n".join(f"- {f}" for f in files)
     gr.Markdown(
-        f"✅ Klar! Du kan nu ställa frågor om dokumenten nedan:
+        f"✅ Klar! Du kan nu ställa frågor om dokumenten nedan:\n\n{file_list_md}",
+        elem_id="status-text"
+    )
 
-" +
-        "
-".join([f"- {f}" for f in loaded_files])
+    # D) Temperature‐slider och Chatbot
+    temp_slider = gr.Slider(
+        minimum=0.0, maximum=1.0, value=0.3, step=0.05,
+        label="Temperatur (kreativitetsgrad)"
     )
 
-    # Chat-funktion
-    def chat_fn(message, history, temp):
-        chain = create_chain(vectorstore, temp)
-        history = history + [{"role": "user", "content": message}]
+    def chat_fn(message, temp, history):
+        # Skydd mot alltför långa frågor
         if len(message) > 1000:
-            history = history + [{
-                "role": "assistant",
-                "content": f"⚠️ Din fråga är för lång ({len(message)} tecken). Försök en kortare fråga."
-            }]
-            return history
+            return [], [{"role":"assistant","content":
+                f"⚠️ Din fråga är för lång ({len(message)} tecken). Försök korta ner den."}]
+        # Uppdatera temperatur dynamiskt
+        llm.model_kwargs["temperature"] = temp
         try:
-            svar = chain.invoke({"query": message})
-            out = svar.get("result", str(svar))
+            resp = qa_chain.invoke({"query": message})
+            assistant_msg = resp["result"]
         except Exception as e:
-            out = f"Ett fel uppstod: {e}"
-        history = history + [{"role": "assistant", "content": out}]
-        return history
+            assistant_msg = f"Ett fel uppstod: {e}"
+        # Returnera hela historiken i OpenAI-stil
+        history = history or []
+        history.append({"role":"user","content":message})
+        history.append({"role":"assistant","content":assistant_msg})
+        return history, history
 
-    # Koppla knapp till funktionen
-    send_button.click(
+    gr.ChatInterface(
         fn=chat_fn,
-        inputs=[input_box, chatbot, temp_slider],
-        outputs=chatbot,
+        inputs=[gr.Textbox(label="Skriv din fråga här:"), temp_slider],
+        title="🌟 Dokumentassistent (Svenska)",
+        description="Hej! Ställ en fråga baserat på dina PDF-dokument.",
+        chatbot=gr.Chatbot(type="messages")
     )
 
-# Starta app vid körning
-if __name__ == "__main__":
-    demo.launch()
-
-if __name__ == "__main__":
-    demo.launch()
-    
+demo.launch()