app.py

import gradio as gr
from transformers import AutoModelForCausalLM, AutoTokenizer
import torch

# Cargar el modelo y el tokenizador solo una vez para evitar recargas
model_name = "BSC-LT/salamandra-2b"

if "tokenizer" not in globals():
    tokenizer = AutoTokenizer.from_pretrained(model_name, trust_remote_code=True)
    tokenizer.pad_token = tokenizer.eos_token  # 🔹 Evita errores de atención

if "model" not in globals():
    model = AutoModelForCausalLM.from_pretrained(model_name, torch_dtype=torch.float16)
    model.eval()  # 🔹 Optimiza la inferencia para que sea más rápida

# Función exclusiva para humanización de texto con enfoque en marketing
def humanize_text(input_text):
    system_prompt = (
        "Reescribe el siguiente texto de manera más natural, clara y persuasiva, "
        "sin perder información clave. Mantén un tono conversacional y cercano, "
        "como si estuvieras explicándolo de forma sencilla a alguien sin conocimiento técnico. "
        "Evita frases burocráticas y hazlo más fácil de leer."
    )

    prompt = f"{system_prompt}\n\nTexto original: {input_text}\n\nTexto humanizado:"
    
    inputs = tokenizer(prompt, return_tensors="pt", padding=True, truncation=True)

    outputs = model.generate(
        inputs.input_ids,
        attention_mask=inputs.attention_mask,
        max_new_tokens=150,  # 🔹 Equilibrio entre reformulación y velocidad
        min_length=30,  # 🔹 Evita respuestas demasiado cortas
        do_sample=True,  # 🔹 Mantiene variabilidad en la reescritura
        temperature=0.75,  # 🔹 Balance entre creatividad y precisión
        top_p=0.9,  # 🔹 Mantiene coherencia en la reescritura
        repetition_penalty=1.05,  # 🔹 Evita repeticiones sin restringir demasiado
        num_return_sequences=1,  # 🔹 Genera solo una respuesta bien formulada
    )

    return tokenizer.decode(outputs[0], skip_special_tokens=True)

# Interfaz en Gradio
with gr.Blocks() as demo:
    gr.Markdown("# ✍️ Humanización de Texto con ALIA (Versión más estable)")
    input_text = gr.Textbox(label="Pega aquí el texto generado por IA para humanizar")
    output_text = gr.Textbox(label="Texto humanizado por ALIA", interactive=False)
    submit_button = gr.Button("Humanizar Texto")
    submit_button.click(humanize_text, inputs=input_text, outputs=output_text)

demo.launch()