diginoron commited on
Commit
430be1f
·
verified ·
1 Parent(s): ddd0771

Update app.py

Browse files
Files changed (1) hide show
  1. app.py +15 -2
app.py CHANGED
@@ -66,18 +66,31 @@ def provide_advice(table_data: pd.DataFrame, hs_code: str, year: str, month: str
66
  print(prompt)
67
 
68
  try:
 
69
  input_ids = tokenizer(prompt, return_tensors="pt").to("cuda")
 
70
  outputs = model.generate(
71
  **input_ids,
72
  max_new_tokens=1024,
73
  do_sample=True,
74
- temperature=0.7,
75
- top_p=0.9
 
76
  )
 
77
  generated_text = tokenizer.decode(outputs[0], skip_special_tokens=True)
 
 
 
 
 
 
 
 
78
  print("خروجی مدل دریافت شد (به انگلیسی):")
79
  print(generated_text)
80
 
 
81
  translated_outputs = translator.translate(generated_text)
82
  print("خروجی ترجمه‌شده به فارسی:")
83
  print(translated_outputs)
 
66
  print(prompt)
67
 
68
  try:
69
+ # آماده‌سازی ورودی برای مدل
70
  input_ids = tokenizer(prompt, return_tensors="pt").to("cuda")
71
+ # تولید خروجی
72
  outputs = model.generate(
73
  **input_ids,
74
  max_new_tokens=1024,
75
  do_sample=True,
76
+ temperature=0.6, # کاهش برای پاسخ‌های منسجم‌تر
77
+ top_p=0.85, # تنظیم برای کیفیت بهتر
78
+ pad_token_id=tokenizer.eos_token_id # جلوگیری از خطای pad token
79
  )
80
+ # دیکد کردن خروجی و حذف پرامپت
81
  generated_text = tokenizer.decode(outputs[0], skip_special_tokens=True)
82
+ # حذف پرامپت از خروجی
83
+ if generated_text.startswith(prompt):
84
+ generated_text = generated_text[len(prompt):].strip()
85
+
86
+ # بررسی اینکه خروجی خالی نباشد
87
+ if not generated_text:
88
+ return "مدل نتوانست پاسخ مناسبی تولید کند. لطفاً دوباره امتحان کنید."
89
+
90
  print("خروجی مدل دریافت شد (به انگلیسی):")
91
  print(generated_text)
92
 
93
+ # ترجمه خروجی به فارسی
94
  translated_outputs = translator.translate(generated_text)
95
  print("خروجی ترجمه‌شده به فارسی:")
96
  print(translated_outputs)