sd

app.py

@@ -1,7 +1,69 @@
 import gradio as gr
+from langgraph.graph import StateGraph, END
+from langchain_core.runnables import RunnableLambda
+from transformers import AutoTokenizer, AutoModelForCausalLM
+import torch
 
-def greet(name):
-    return "Hello " + name + "!!"
+# 1. Preparar el modelo Qwen/Qwen1.5-32B-Chat
+model_id = "Qwen/Qwen1.5-32B-Chat"
 
-demo = gr.Interface(fn=greet, inputs="text", outputs="text")
-demo.launch()
+tokenizer = AutoTokenizer.from_pretrained(model_id, trust_remote_code=True)
+model = AutoModelForCausalLM.from_pretrained(
+    model_id,
+    device_map="auto",
+    torch_dtype=torch.float16,
+    trust_remote_code=True
+)
+model.eval()
+
+# 2. Crear un wrapper manual (sin langchain)
+class QwenWrapper:
+    def invoke(self, prompt: str) -> str:
+        messages = [{"role": "user", "content": prompt}]
+        inputs = tokenizer.apply_chat_template(messages, return_tensors="pt").to(model.device)
+        output = model.generate(inputs, max_new_tokens=256, do_sample=True, temperature=0.7)
+        decoded = tokenizer.decode(output[0], skip_special_tokens=True)
+        return decoded.split("assistant")[-1].strip()
+
+qwen = QwenWrapper()
+
+# 3. Definir el estado del agente
+class AgentState(dict):
+    pass
+
+# 4. Paso del agente con rol de agente de viajes
+def agent_step(state: AgentState) -> AgentState:
+    user_input = state["input"]
+    # Se añade un prompt de contexto para que el agente actúe como experto en viajes
+    travel_prompt = (
+        "Eres un agente de viajes profesional y experimentado. "
+        "Asesora, recomienda y planifica itinerarios, destinos y actividades de viaje según las preferencias del usuario. "
+        f"Usuario: {user_input}"
+    )
+    response = qwen.invoke(travel_prompt)
+    return {"input": user_input, "output": response}
+
+# 5. Crear nodo LangGraph
+agent_node = RunnableLambda(agent_step)
+
+graph_builder = StateGraph(AgentState)
+graph_builder.add_node("agent", agent_node)
+graph_builder.set_entry_point("agent")
+graph_builder.add_edge("agent", END)
+graph = graph_builder.compile()
+
+# 6. Función para Gradio
+def chat_with_agent(message):
+    result = graph.invoke({"input": message})
+    return result["output"]
+
+# 7. Interfaz Gradio adaptada para un agente de viajes
+iface = gr.Interface(
+    fn=chat_with_agent,
+    inputs=gr.Textbox(lines=2, placeholder="Haz una consulta sobre viajes..."),
+    outputs="text",
+    title="Agente de Viajes con LangGraph y Qwen",
+    description="Agente de viajes que utiliza LangGraph y Qwen/Qwen1.5-32B-Chat para recomendar destinos, itinerarios y consejos de viaje."
+)
+
+iface.launch()