Update fine_tune_inference_test.py
Browse files
fine_tune_inference_test.py
CHANGED
@@ -77,10 +77,9 @@ def chat(msg: Message):
|
|
77 |
if not user_input:
|
78 |
return {"error": "Boş giriş"}
|
79 |
|
80 |
-
|
81 |
-
|
82 |
-
|
83 |
-
full_prompt += f"Kullanıcı: {user_input}\nAsistan:"
|
84 |
|
85 |
log("📦 Cevap hazırlanıyor...")
|
86 |
result = pipe(full_prompt, max_new_tokens=200, do_sample=True, temperature=0.7)
|
@@ -159,4 +158,4 @@ while True:
|
|
159 |
import time
|
160 |
time.sleep(60)
|
161 |
except Exception as e:
|
162 |
-
log(f"❌ Ana bekleme döngüsünde hata: {e}")
|
|
|
77 |
if not user_input:
|
78 |
return {"error": "Boş giriş"}
|
79 |
|
80 |
+
# ✅ Eğitimdeki formatla uyumlu prompt
|
81 |
+
full_prompt = f"SORU: {user_input}\nCEVAP:"
|
82 |
+
log(f"📨 Prompt: {full_prompt}")
|
|
|
83 |
|
84 |
log("📦 Cevap hazırlanıyor...")
|
85 |
result = pipe(full_prompt, max_new_tokens=200, do_sample=True, temperature=0.7)
|
|
|
158 |
import time
|
159 |
time.sleep(60)
|
160 |
except Exception as e:
|
161 |
+
log(f"❌ Ana bekleme döngüsünde hata: {e}")
|