Update app.py

app.py

@@ -6,7 +6,10 @@ from PIL import Image
 # Model ve işlemci yükleme
 models = {
     "microsoft/Phi-3.5-vision-instruct": AutoModelForCausalLM.from_pretrained(
-        "microsoft/Phi-3.5-vision-instruct", trust_remote_code=True, torch_dtype="auto"
+        "microsoft/Phi-3.5-vision-instruct", 
+        trust_remote_code=True, 
+        torch_dtype=torch.float32,  # CPU üzerinde çalıştığı için float32 kullanılıyor
+        device_map=None  # GPU kullanımını devre dışı bırakır
     ).eval()
 }
 
@@ -18,9 +21,6 @@ processors = {
 
 DESCRIPTION = "[Phi-3.5-vision Demo](https://huggingface.co/microsoft/Phi-3.5-vision-instruct)"
 
-kwargs = {}
-kwargs['torch_dtype'] = torch.float32  # CPU üzerinde çalıştığı için bfloat16 yerine float32 kullanılıyor
-
 user_prompt = '<|user|>\n'
 assistant_prompt = '<|assistant|>\n'
 prompt_suffix = "<|end|>\n"
@@ -32,7 +32,7 @@ def run_example(image, text_input=None, model_id="microsoft/Phi-3.5-vision-instr
     prompt = f"{user_prompt}<|image_1|>\n{text_input}{prompt_suffix}{assistant_prompt}"
     image = Image.fromarray(image).convert("RGB")
 
-    inputs = processor(prompt, image, return_tensors="pt")  # Cihaz belirtilmedi, varsayılan olarak CPU kullanılır
+    inputs = processor(prompt, image, return_tensors="pt")  # Varsayılan olarak CPU kullanılır
     generate_ids = model.generate(
         **inputs,
         max_new_tokens=2048,