Update app.py

app.py

@@ -4,19 +4,26 @@ import os
 import json
 import torch
 import gradio as gr
+from huggingface_hub import login
 from pinecone import Pinecone
 from sentence_transformers import SentenceTransformer
 from transformers import AutoTokenizer, AutoModelForCausalLM
 
-# 🔐 گرفتن سکرت‌ها از محیط
+# 🔐 خواندن سکرت‌ها
 PINECONE_API_KEY = os.environ.get("PINECONE_API_KEY")
 PINECONE_INDEX_NAME = os.environ.get("INDEX_NAME", "tiyam-chat")
 HF_TOKEN = os.environ.get("HF_TOKEN")
 
-# 🔹 بارگذاری مدل عمومی embedding (بدون نیاز به توکن)
-embedding_model = SentenceTransformer('sentence-transformers/distiluse-base-multilingual-cased-v2')
+if not HF_TOKEN:
+    raise ValueError("❌ سکرت HF_TOKEN یافت نشد. لطفاً آن را در Settings > Secrets ثبت کنید.")
 
-# 🔹 بارگذاری داده‌های اولیه (اختیاری)
+# 🔐 ورود به Hugging Face برای دسترسی به مدل خصوصی
+login(token=HF_TOKEN)
+
+# 🔹 بارگذاری مدل embedding خصوصی
+embedding_model = SentenceTransformer('sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2')
+
+# 🔹 بارگذاری داده محلی (اختیاری برای تست یا توسعه)
 with open("tiyam_qa_data.json", "r", encoding="utf-8") as f:
     data = json.load(f)
 
@@ -24,13 +31,13 @@ with open("tiyam_qa_data.json", "r", encoding="utf-8") as f:
 pc = Pinecone(api_key=PINECONE_API_KEY)
 index = pc.Index(PINECONE_INDEX_NAME)
 
-# 🔹 بارگذاری مدل GEMMA برای بازنویسی
+# 🔹 بارگذاری مدل GEMMA برای بازنویسی طبیعی پاسخ
 tokenizer = AutoTokenizer.from_pretrained("google/gemma-2b-it", token=HF_TOKEN)
 model = AutoModelForCausalLM.from_pretrained("google/gemma-2b-it", token=HF_TOKEN)
 device = torch.device("cuda" if torch.cuda.is_available() else "cpu")
 model = model.to(device)
 
-# 🔹 بازیابی پاسخ اولیه از Pinecone
+# 🔹 گرفتن پاسخ خام از Pinecone
 def retrieve_answer(query, threshold=0.65, top_k=3):
     query_embedding = embedding_model.encode([query])[0]
     result = index.query(vector=query_embedding.tolist(), top_k=top_k, include_metadata=True)
@@ -41,7 +48,7 @@ def retrieve_answer(query, threshold=0.65, top_k=3):
     else:
         return "متأسفم، پاسخ دقیقی برای این سوال نداریم. لطفاً با ما تماس بگیرید."
 
-# 🔹 بازنویسی پاسخ با GEMMA
+# 🔹 بازنویسی پاسخ خام با GEMMA
 def rewrite_answer(question, retrieved_answer):
     prompt = f"""سؤال: {question}
 پاسخ اولیه: {retrieved_answer}