update guis 6

app.py

@@ -22,33 +22,71 @@ def load_vectorstore():
     vectorstore = FAISS.from_documents(all_docs, embedding)
     return vectorstore, loaded_files
 
+# Skapa RAG-chain med vald temperaturfunktion
+def create_chain(temp):
+    llm_pipeline = pipeline(
+        "text-generation", model="tiiuae/falcon-rw-1b", device=-1
+    )
+    llm = HuggingFacePipeline(
+        pipeline=llm_pipeline,
+        model_kwargs={"temperature": temp, "max_new_tokens": 512},
+    )
+    return RetrievalQA.from_chain_type(
+        llm=llm, retriever=vectorstore.as_retriever()
+    )
+
+# Gradio UI
 with gr.Blocks() as demo:
-    with gr.Row():
-        status_text = gr.Markdown("🔄 Laddar modellen, vänta...", elem_id="status-text")
+    # Temperatur-reglage
+    temp_slider = gr.Slider(
+        label="🎛️ Temperatur (0 = exakt, 1 = kreativ)",
+        minimum=0.0,
+        maximum=1.0,
+        value=0.3,
+        step=0.05,
+    )
+    # Chat-komponent
+    chatbot = gr.Chatbot()
+    # Text-input
+    input_box = gr.Textbox(label="Din fråga")
+    send_button = gr.Button("Skicka")
+    status_text = gr.Markdown("🔄 Laddar modellen, vänta...")
 
+    # Ladda dokument + skapa initial chain
     vectorstore, loaded_files = load_vectorstore()
-    llm_pipeline = pipeline("text-generation", model="tiiuae/falcon-rw-1b", device=-1)
-    llm = HuggingFacePipeline(pipeline=llm_pipeline, model_kwargs={"temperature": 0.3, "max_new_tokens": 512})
-    qa_chain = RetrievalQA.from_chain_type(llm=llm, retriever=vectorstore.as_retriever())
+    qa_chain = create_chain(temp_slider.value)
 
+    # Visa klara status och vilka PDF:er som laddats
     loaded_list = "\n".join([f"- {f}" for f in loaded_files])
+    status_text.update(visible=False)
+    gr.Markdown(
+        f"✅ Klar! Du kan nu ställa frågor om dokumenten nedan:\n\n{loaded_list}"
+    )
 
-    def chat_fn(message, history):
+    def chat_fn(message, history, temp):
+        # Uppdatera chain om temperaturen ändrats
+        chain = create_chain(temp)
+        # Begränsa fråga-längd
         if len(message) > 1000:
-            return {"role": "assistant", "content": "⚠️ Din fråga är för lång (" + str(len(message)) + " tecken). Försök ställa en mer specifik fråga."}
+            history.append((message, f"⚠️ Din fråga är för lång ({len(message)} tecken). Försök en kortare fråga."))
+            return history
+        # Kör fråga
         try:
-            svar = qa_chain.invoke({"query": message})
+            svar = chain.invoke({"query": message})
+            out = svar["result"]
         except Exception as e:
-            return {"role": "assistant", "content": f"Ett fel uppstod vid bearbetning av frågan: {str(e)}"}
-        return {"role": "assistant", "content": svar["result"]}
-
-    gr.Markdown(f"✅ Klar! Du kan nu ställa frågor om dokumenten nedan:\n\n{loaded_list}", elem_id="status-text")
+            out = f"Ett fel uppstod: {e}"
+        history.append((message, out))
+        return history
 
-    gr.ChatInterface(
+    # Koppla knappen till chat-funktionen
+    send_button.click(
         fn=chat_fn,
-        title="🌟 Dokumentassistent (Svenska)",
-        chatbot=gr.Chatbot(type="messages"),
-        description="Hej! Jag är din dokumentassistent. Ställ en fråga baserat på innehållet i dina PDF-filer."
+        inputs=[input_box, chatbot, temp_slider],
+        outputs=chatbot,
     )
 
-demo.launch()
+# Starta appen
+if __name__ == "__main__":
+    demo.launch()
+