Update app.py

app.py

@@ -33,7 +33,6 @@ def load_model():
             model_name,
             device_map="auto",
             torch_dtype="auto"
-            # Eğer istersen load_in_8bit=True parametresini ekleyebiliriz
         )
 
         pipe = pipeline("text-generation", model=model, tokenizer=tokenizer, device_map="auto")
@@ -54,8 +53,24 @@ def generate(req: UserInputRequest):
         start_time = time.time()
         log(f"💬 Kullanıcı isteği alındı: {req.user_input}")
 
-        # System prompt + user input birleştirme
-        full_prompt = f"{req.system_prompt}\n\n{req.user_input}"
+        # Kısa ve net system prompt, okunabilir bölünmüş
+        concise_system_prompt = (
+            f"{req.system_prompt}\n"
+            "❗ Cevaplarını sadece aşağıdaki formatta döndür, fazladan açıklama yazma, örnek ekleme:\n"
+            "#ANSWER: <cevap>\n"
+            "#INTENT: <intent>\n"
+            "#PARAMS: {...}\n"
+            "#MISSING: [...]\n"
+            "#ACTION_JSON: {...}\n"
+            "Şimdi sadece kullanıcının sorusunu bekliyorsun ve formatlı cevap veriyorsun."
+        )
+
+        # Role separation: System, User, Assistant blokları
+        full_prompt = (
+            f"### System:\n{concise_system_prompt}\n\n"
+            f"### User:\n{req.user_input}\n\n"
+            f"### Assistant:"
+        )
 
         result = pipe(
             full_prompt,