Spaces:
Running
Running
Update app.py
Browse files
app.py
CHANGED
@@ -66,18 +66,31 @@ def provide_advice(table_data: pd.DataFrame, hs_code: str, year: str, month: str
|
|
66 |
print(prompt)
|
67 |
|
68 |
try:
|
|
|
69 |
input_ids = tokenizer(prompt, return_tensors="pt").to("cuda")
|
|
|
70 |
outputs = model.generate(
|
71 |
**input_ids,
|
72 |
max_new_tokens=1024,
|
73 |
do_sample=True,
|
74 |
-
temperature=0.
|
75 |
-
top_p=0.
|
|
|
76 |
)
|
|
|
77 |
generated_text = tokenizer.decode(outputs[0], skip_special_tokens=True)
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
78 |
print("خروجی مدل دریافت شد (به انگلیسی):")
|
79 |
print(generated_text)
|
80 |
|
|
|
81 |
translated_outputs = translator.translate(generated_text)
|
82 |
print("خروجی ترجمهشده به فارسی:")
|
83 |
print(translated_outputs)
|
|
|
66 |
print(prompt)
|
67 |
|
68 |
try:
|
69 |
+
# آمادهسازی ورودی برای مدل
|
70 |
input_ids = tokenizer(prompt, return_tensors="pt").to("cuda")
|
71 |
+
# تولید خروجی
|
72 |
outputs = model.generate(
|
73 |
**input_ids,
|
74 |
max_new_tokens=1024,
|
75 |
do_sample=True,
|
76 |
+
temperature=0.6, # کاهش برای پاسخهای منسجمتر
|
77 |
+
top_p=0.85, # تنظیم برای کیفیت بهتر
|
78 |
+
pad_token_id=tokenizer.eos_token_id # جلوگیری از خطای pad token
|
79 |
)
|
80 |
+
# دیکد کردن خروجی و حذف پرامپت
|
81 |
generated_text = tokenizer.decode(outputs[0], skip_special_tokens=True)
|
82 |
+
# حذف پرامپت از خروجی
|
83 |
+
if generated_text.startswith(prompt):
|
84 |
+
generated_text = generated_text[len(prompt):].strip()
|
85 |
+
|
86 |
+
# بررسی اینکه خروجی خالی نباشد
|
87 |
+
if not generated_text:
|
88 |
+
return "مدل نتوانست پاسخ مناسبی تولید کند. لطفاً دوباره امتحان کنید."
|
89 |
+
|
90 |
print("خروجی مدل دریافت شد (به انگلیسی):")
|
91 |
print(generated_text)
|
92 |
|
93 |
+
# ترجمه خروجی به فارسی
|
94 |
translated_outputs = translator.translate(generated_text)
|
95 |
print("خروجی ترجمهشده به فارسی:")
|
96 |
print(translated_outputs)
|