app.py

import gradio as gr
from transformers import AutoModelForCausalLM, AutoTokenizer
import torch

# Cargar el modelo y el tokenizador solo una vez para evitar recargas
model_name = "BSC-LT/salamandra-2b"

if "tokenizer" not in globals():
    tokenizer = AutoTokenizer.from_pretrained(model_name, trust_remote_code=True)
    tokenizer.pad_token = tokenizer.eos_token  # 🔹 Evita errores de atención

if "model" not in globals():
    model = AutoModelForCausalLM.from_pretrained(model_name, torch_dtype=torch.float16)
    model.eval()  # 🔹 Optimiza la inferencia para que sea más rápida

# Función exclusiva para humanización de texto con enfoque en marketing
def humanize_text(input_text):
    system_prompt = (
        "Reescribe el siguiente texto con un estilo más natural, accesible y persuasivo, "
        "manteniendo su significado original. "
        "Adopta un tono más cercano y atractivo, ideal para comunicación en marketing. "
        "Convierte estructuras rígidas en frases más fluidas, pero sin perder profesionalismo. "
        "Haz que el mensaje sea más directo y fácil de leer."
    )

    prompt = f"{system_prompt}\n\nTexto original: {input_text}\n\nTexto humanizado:"
    
    inputs = tokenizer(prompt, return_tensors="pt", padding=True, truncation=True)

    outputs = model.generate(
        inputs.input_ids,
        attention_mask=inputs.attention_mask,
        max_new_tokens=150,  # 🔹 Reducimos para acelerar generación sin perder calidad
        min_length=30,  # 🔹 Evita respuestas demasiado cortas
        do_sample=True,  # 🔹 Mantiene variabilidad en la reescritura
        temperature=0.7,  # 🔹 Mejor equilibrio entre calidad y velocidad
        top_p=0.9,  # 🔹 Mantiene coherencia en la reescritura
        repetition_penalty=1.1,  # 🔹 Reduce repeticiones innecesarias sin limitar la fluidez
        num_return_sequences=1,  # 🔹 Genera solo una respuesta bien formulada
    )

    return tokenizer.decode(outputs[0], skip_special_tokens=True)

# Interfaz en Gradio
with gr.Blocks() as demo:
    gr.Markdown("# ✍️ Humanización de Texto con ALIA (Optimizado para Marketing)")
    input_text = gr.Textbox(label="Pega aquí el texto generado por IA para humanizar")
    output_text = gr.Textbox(label="Texto humanizado por ALIA", interactive=False)
    submit_button = gr.Button("Humanizar Texto")
    submit_button.click(humanize_text, inputs=input_text, outputs=output_text)

demo.launch()