File size: 2,855 Bytes
83c68ab 7fcb17d 83c68ab 7fcb17d 83c68ab 7fcb17d 34d0de0 7fcb17d |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 |
import gradio as gr
from langgraph.graph import StateGraph, END
from langchain_core.runnables import RunnableLambda
from transformers import AutoTokenizer, AutoModelForCausalLM
import torch
# 1. Preparar el modelo Qwen/Qwen1.5-32B-Chat
model_id = "Qwen/Qwen1.5-32B-Chat"
tokenizer = AutoTokenizer.from_pretrained(model_id, trust_remote_code=True)
model = AutoModelForCausalLM.from_pretrained(
model_id,
device_map="auto",
torch_dtype=torch.float16,
trust_remote_code=True
)
model.eval()
# 2. Crear un wrapper manual (sin langchain)
class QwenWrapper:
def invoke(self, prompt: str) -> str:
messages = [{"role": "user", "content": prompt}]
inputs = tokenizer.apply_chat_template(messages, return_tensors="pt").to(model.device)
output = model.generate(inputs, max_new_tokens=256, do_sample=True, temperature=0.7)
decoded = tokenizer.decode(output[0], skip_special_tokens=True)
return decoded.split("assistant")[-1].strip()
qwen = QwenWrapper()
# 3. Definir el estado del agente
class AgentState(dict):
pass
# 4. Paso del agente con rol de agente de viajes
def agent_step(state: AgentState) -> AgentState:
user_input = state["input"]
# Se añade un prompt de contexto para que el agente actúe como experto en viajes
travel_prompt = (
"Eres un agente de viajes profesional y experimentado. "
"Asesora, recomienda y planifica itinerarios, destinos y actividades de viaje según las preferencias del usuario. "
f"Usuario: {user_input}"
)
response = qwen.invoke(travel_prompt)
return {"input": user_input, "output": response}
# 5. Crear nodo LangGraph
agent_node = RunnableLambda(agent_step)
graph_builder = StateGraph(AgentState)
graph_builder.add_node("agent", agent_node)
graph_builder.set_entry_point("agent")
graph_builder.add_edge("agent", END)
graph = graph_builder.compile()
# 6. Función para Gradio
def agent_step(state: AgentState) -> AgentState:
user_input = state.get("input")
if not user_input:
return {"input": "", "output": "No se recibió entrada."}
travel_prompt = (
"Eres un agente de viajes profesional y experimentado. "
"Asesora, recomienda y planifica itinerarios, destinos y actividades de viaje según las preferencias del usuario. "
f"Usuario: {user_input}"
)
response = qwen.invoke(travel_prompt)
return {"input": user_input, "output": response}
# 7. Interfaz Gradio adaptada para un agente de viajes
iface = gr.Interface(
fn=chat_with_agent,
inputs=gr.Textbox(lines=2, placeholder="Haz una consulta sobre viajes..."),
outputs="text",
title="Agente de Viajes con LangGraph y Qwen",
description="Agente de viajes que utiliza LangGraph y Qwen/Qwen1.5-32B-Chat para recomendar destinos, itinerarios y consejos de viaje."
)
iface.launch()
|