Update app.py

app.py

@@ -2,15 +2,14 @@ import os
 import gradio as gr
 from langchain_community.vectorstores import Chroma
 from langchain_community.embeddings import HuggingFaceEmbeddings
+from langchain_community.llms import CTransformers
 from langchain_community.document_loaders import PyPDFLoader
 from langchain.text_splitter import RecursiveCharacterTextSplitter
 from langchain.chains import RetrievalQA
-from langchain.llms import HuggingFaceHub
-from langchain.prompts import PromptTemplate
-from huggingface_hub import login
 
-# اختياري: تسجيل الدخول إذا كنت تستخدم مفتاح API
-# login(token="your_huggingface_token")
+# مسار النموذج المحلي (يمكن تحميله مسبقًا ووضعه في هذا المسار)
+MODEL_PATH = "TheBloke/Mistral-7B-Instruct-v0.2-GGUF"  # استخدم gguf فقط
+MODEL_FILE = "mistral-7b-instruct-v0.2.Q4_K_M.gguf"
 
 def process_pdf_and_answer(pdf_path, question):
     # تحميل ملف PDF
@@ -21,32 +20,37 @@ def process_pdf_and_answer(pdf_path, question):
     text_splitter = RecursiveCharacterTextSplitter(chunk_size=500, chunk_overlap=50)
     texts = text_splitter.split_documents(pages)
 
-    # التضمين Embeddings
+    # التضمين باستخدام نموذج مجاني
     embeddings = HuggingFaceEmbeddings(model_name="sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2")
     vectorstore = Chroma.from_documents(texts, embedding=embeddings)
 
-    # إعداد LLM
-    llm = HuggingFaceHub(repo_id="HuggingFaceH4/zephyr-7b-beta", model_kwargs={"temperature": 0.1, "max_new_tokens": 512})
+    # إعداد LLM محلي عبر ctransformers
+    llm = CTransformers(
+        model=MODEL_FILE,
+        model_path=MODEL_PATH,
+        model_type="mistral",
+        config={
+            "max_new_tokens": 512,
+            "temperature": 0.1
+        }
+    )
 
-    # إعداد RAG
+    # بناء سلسلة RAG
     qa_chain = RetrievalQA.from_chain_type(llm=llm, retriever=vectorstore.as_retriever(), return_source_documents=True)
 
-    # تنفيذ السؤال
+    # الإجابة على السؤال
     result = qa_chain({"query": question})
-    answer = result["result"]
-    return answer
+    return result["result"]
 
 # واجهة Gradio
 with gr.Blocks() as demo:
-    gr.Markdown("## 🧠 مساعد PDF الذكي")
-    
+    gr.Markdown("## 📄🤖 مساعد PDF الذكي - بدون API")
+
     with gr.Row():
-        file_input = gr.File(label="📄 ارفع ملف PDF", type="filepath", file_types=[".pdf"])
-    
-    question_input = gr.Textbox(label="❓ اكتب سؤالك هنا", placeholder="ما هو محتوى الفصل الأول؟")
+        file_input = gr.File(label="📥 ملف PDF", type="filepath", file_types=[".pdf"])
+    question_input = gr.Textbox(label="❓ سؤالك", placeholder="ما هو موضوع الصفحة الأولى؟")
     output = gr.Textbox(label="📝 الإجابة", lines=10)
-
-    submit_btn = gr.Button("🔍 استخرج الإجابة")
+    submit_btn = gr.Button("🔎 استخرج الإجابة")
 
     def handle_submit(file, question):
         if file is None or question.strip() == "":
@@ -55,6 +59,6 @@ with gr.Blocks() as demo:
 
     submit_btn.click(handle_submit, inputs=[file_input, question_input], outputs=output)
 
-# لتشغيل التطبيق
+# تشغيل التطبيق
 if __name__ == "__main__":
     demo.launch()