app.py

import gradio as gr
from transformers import AutoModelForCausalLM, AutoTokenizer
import torch

# Cargar el modelo y el tokenizador solo una vez para evitar recargas
model_name = "BSC-LT/salamandra-2b"

if "tokenizer" not in globals():
    tokenizer = AutoTokenizer.from_pretrained(model_name, trust_remote_code=True)
    tokenizer.pad_token = tokenizer.eos_token  # 🔹 Evita errores de atención

if "model" not in globals():
    model = AutoModelForCausalLM.from_pretrained(model_name, torch_dtype=torch.float16)
    model.eval()  # 🔹 Optimiza la inferencia para que sea más rápida

# Función exclusiva para humanización de texto
def humanize_text(input_text):
    system_prompt = (
        "Reescribe el siguiente texto de manera más natural y humana, "
        "manteniendo toda la información importante pero con un tono más cercano y fluido."
    )

    prompt = f"{system_prompt}\n\nTexto original: {input_text}\n\nTexto humanizado:"
    
    inputs = tokenizer(prompt, return_tensors="pt", padding=True, truncation=True)

    outputs = model.generate(
        inputs.input_ids,
        attention_mask=inputs.attention_mask,
        max_new_tokens=100,  # 🔹 Se aumenta para evitar cortes en textos largos
        do_sample=True,  # 🔹 Mantiene variabilidad en la reescritura
        temperature=0.6,  # 🔹 Da un poco más de flexibilidad en la generación
        top_p=0.9,  # 🔹 Mantiene coherencia en la reescritura
        repetition_penalty=1.1,  # 🔹 Evita respuestas repetitivas
        early_stopping=True,
    )

    return tokenizer.decode(outputs[0], skip_special_tokens=True)

# Interfaz en Gradio
with gr.Blocks() as demo:
    gr.Markdown("# ✍️ Humanización de Texto con ALIA")
    input_text = gr.Textbox(label="Pega aquí el texto generado por IA para humanizar")
    output_text = gr.Textbox(label="Texto humanizado por ALIA", interactive=False)
    submit_button = gr.Button("Humanizar Texto")
    submit_button.click(humanize_text, inputs=input_text, outputs=output_text)

demo.launch()