Update app.py

app.py

@@ -27,10 +27,11 @@ bnb_config = BitsAndBytesConfig(load_in_8bit=True)  # Cargar en 8-bit para reduc
 
 model = AutoModelForCausalLM.from_pretrained(
     MODEL_NAME,
-    device_map="auto",
-    quantization_config=bnb_config,  # Cargar modelo en 8-bit
+    torch_dtype=torch.float32,  # Forzar CPU con float32
+    device_map={"": "cpu"},  # Usar solo CPU
     token=HF_TOKEN
-).to(device)
+)
+
 
 
 # Memoria conversacional
@@ -91,7 +92,8 @@ def conversar_con_colmena(mensaje):
     datos_relevantes = filtrar_datos_por_pregunta(mensaje.lower(), datos)
     
     contexto = f"Datos actuales de la colmena: {datos_relevantes}\nUsuario: {mensaje}\nColmena:"
-    inputs = tokenizer(contexto, return_tensors="pt").to(device)
+    inputs = tokenizer(contexto, return_tensors="pt").to("cpu")
+
     
     with torch.no_grad():
         output = model.generate(