Update app.py

app.py

@@ -1,6 +1,6 @@
 import gradio as gr
 from sentence_transformers import SentenceTransformer
-from transformers import GPT2LMHeadModel, GPT2Tokenizer
+from transformers import GPT2Tokenizer, GPT2LMHeadModel
 from pinecone import Pinecone
 
 # ===============================
@@ -20,8 +20,8 @@ embedding_model = SentenceTransformer('paraphrase-multilingual-MiniLM-L12-v2')
 # ===============================
 # 🧠 بارگذاری مدل GPT-2 برای تولید پاسخ
 # ===============================
-tokenizer = GPT2Tokenizer.from_pretrained("openai-community/gpt2")
-gpt2_model = GPT2LMHeadModel.from_pretrained("openai-community/gpt2")
+gpt2_tokenizer = GPT2Tokenizer.from_pretrained("gpt2")
+gpt2_model = GPT2LMHeadModel.from_pretrained("gpt2")
 
 # ===============================
 # 🔍 بازیابی پاسخ از Pinecone
@@ -38,6 +38,24 @@ def retrieve_answer(query, threshold=0.65, top_k=1):
 # ===============================
 # ✨ تولید پاسخ با GPT-2
 # ===============================
+def generate_response_with_gpt2(answer, user_question):
+    # ساخت پرامپت
+    prompt = f"پاسخ به سوال: {user_question} بر اساس اطلاعات: {answer}"
+    
+    # تبدیل پرامپت به توکن‌ها
+    input_ids = gpt2_tokenizer.encode(prompt, return_tensors="pt", truncation=True)
+    
+    # تولید خروجی از مدل GPT2
+    output_ids = gpt2_model.generate(input_ids, max_length=150, num_return_sequences=1, no_repeat_ngram_size=2, top_p=0.95, temperature=0.7)
+    
+    # تبدیل توکن‌ها به متن
+    generated_text = gpt2_tokenizer.decode(output_ids[0], skip_special_tokens=True)
+    
+    return generated_text
+
+# ===============================
+# ✨ تولید پاسخ نهایی
+# ===============================
 def final_answer(user_question):
     # ابتدا پاسخ را از Pinecone جستجو می‌کنیم
     answer = retrieve_answer(user_question)
@@ -60,13 +78,6 @@ def final_answer(user_question):
         # اگر سوال عمومی نبود، از GPT2 برای تولید پاسخ طبیعی استفاده می‌کنیم
         return generate_response_with_gpt2("", user_question)
 
-def generate_response_with_gpt2(answer, user_question):
-    # اگر پاسخ خاصی از Pinecone نیست، فقط به مدل GPT2 درخواست می‌دهیم تا جواب بدهد
-    prompt = f"پاسخ به سوال: {user_question} بر اساس اطلاعات: {answer}"
-    input_ids = gpt2_tokenizer.encode(prompt, return_tensors="pt", truncation=True)
-    output_ids = gpt2_model.generate(input_ids, max_length=150, num_return_sequences=1, no_repeat_ngram_size=2, top_p=0.95, temperature=0.7)
-    generated_text = gpt2_tokenizer.decode(output_ids[0], skip_special_tokens=True)
-    return generated_text
 # ===============================
 # 🎛️ رابط Gradio
 # ===============================
@@ -78,4 +89,4 @@ demo = gr.Interface(
     description="سؤالات خود را از آژانس دیجیتال مارکتینگ تیام بپرسید. سیستم از ترکیب جستجوی دقیق و تولید پاسخ طبیعی استفاده می‌کند."
 )
 
-demo.launch()
+demo.launch()