Update inference_test_turkcell_with_intents.py

inference_test_turkcell_with_intents.py

@@ -219,6 +219,8 @@ def setup_model():
     try:
         log("🧠 setup_model() başladı")
         device = torch.device("cuda" if torch.cuda.is_available() else "cpu")
+
+        # === Ana model
         log("📥 Tokenizer indiriliyor...")
         tokenizer = AutoTokenizer.from_pretrained(MODEL_BASE, use_fast=False)
         log("🧠 Model indiriliyor...")
@@ -227,9 +229,17 @@ def setup_model():
         model.config.pad_token_id = tokenizer.pad_token_id
         eos_token_id = tokenizer("<|im_end|>", add_special_tokens=False)["input_ids"][0]
         model.eval()
-        log("✅ Model eval() çağrıldı")
+        log("✅ Ana model eval() çağrıldı")
+
+        # === Intent BERT modeli önden indiriliyor (ama kullanılmıyor)
+        log(f"📦 Intent modeli indiriliyor: {INTENT_MODEL_ID}")
+        _ = AutoTokenizer.from_pretrained(INTENT_MODEL_ID)
+        _ = AutoModelForSequenceClassification.from_pretrained(INTENT_MODEL_ID)
+        log("✅ Intent modeli indirildi (önbelleğe alındı).")
+
         log("✔️ Model başarıyla yüklendi ve sohbet için hazır.")
     except Exception as e:
+        log(f"❌ setup_model() hatası: {e}")
         traceback.print_exc()
 
 threading.Thread(target=setup_model, daemon=True).start()