Update app.py

app.py

@@ -1,30 +1,20 @@
 import gradio as gr
 import torch
+from transformers import AutoTokenizer, AutoModelForSequenceClassification
 import re
 import os
 import csv
-from transformers import AutoModelForCausalLM, AutoTokenizer
 from huggingface_hub import login
-import spaces
-
-@spaces.GPU
-def confirm_gpu():
-    import torch
-    return torch.cuda.is_available()
+from unsloth import FastLanguageModel
 
 login(os.environ["HF_TOKEN"])
 
-model_name = "atorojaen/DeepSeekMisogyny"
-
-tokenizer = AutoTokenizer.from_pretrained(model_name)
-model = AutoModelForCausalLM.from_pretrained(
-    model_name,
-    torch_dtype=torch.float16,
-    device_map="auto"
+model, tokenizer = FastLanguageModel.from_pretrained(
+    model_name = "atorojaen/DeepSeek-R1-MiSonGyny",   # Modelo base
+    max_seq_length = 2048,
+    dtype = torch.float16,
+    load_in_4bit = True,
 )
-
-assert torch.cuda.is_available(), "CUDA no está disponible"
-
 device = torch.device("cuda" if torch.cuda.is_available() else "cpu")
 model.eval()
 
@@ -32,13 +22,18 @@ FLAG_FILE = "flags_data/flags.csv"
 os.makedirs(os.path.dirname(FLAG_FILE), exist_ok=True)
 
 def clean_lyrics(text):
+    # Elimina caracteres no alfabéticos (excepto espacios y letras acentuadas comunes en español)
     text = re.sub(r"[^a-zA-ZáéíóúñüÁÉÍÓÚÑÜ ]+", " ", text)
+    # Convierte a minúsculas
     text = text.lower()
+    # Reduce espacios múltiples
     text = re.sub(r"\s+", " ", text).strip()
     return text
 
+# Función de predicción
 def detect_misogyny(text):
     cleaned_text = clean_lyrics(text)
+    # Construir el prompt de entrada
     prompt = """
             ### Instruccion
             Analiza la siguiente letra de canción y determina si contiene contenido misógino. Evalúa si incluye lenguaje, actitudes o mensajes que:
@@ -54,6 +49,7 @@ def detect_misogyny(text):
 
             ### Respuesta:
             <think>"""
+    
     prompt = prompt.format(lyrics=text)
 
     inputs = tokenizer(prompt, return_tensors="pt").to(model.device)
@@ -66,30 +62,34 @@ def detect_misogyny(text):
         )
     response = tokenizer.decode(outputs[0], skip_special_tokens=True)
 
+    # Extraer explicación entre <think>...</think>
     explanation_match = re.search(r"<think>(.*?)</think>", response, re.DOTALL)
     explanation = explanation_match.group(1).strip() if explanation_match else ""
 
+    # Extraer "1" o "0" después de </think>
     label_match = re.search(r"</think>\s*(\d)", response)
     label = label_match.group(1) if label_match else ""
 
+    # Combinar resultado final
     return f"{explanation}\n\nRespuesta final: {label}" if explanation and label else response.strip()
 
+
 def save_flag(user_text, response, flag_type):
+    # Guarda la entrada, salida y si fue correcta o incorrecta en CSV
     with open(FLAG_FILE, mode="a", newline="", encoding="utf-8") as f:
         writer = csv.writer(f)
         writer.writerow([user_text, response, flag_type])
     return f"Guardado flag: {flag_type}"
 
 with gr.Blocks() as demo:
+    gr.Markdown("# Detector de misoginia en letras de canciones")  # Título principal
+    gr.Markdown("Este sistema analiza letras de canciones en español y detecta contenido misógino utilizando el modelo DeepSeek R1 entrenado.")
     user_input = gr.Textbox(label="Letra de canción", lines=10)
     result = gr.Textbox(label="Respuesta del modelo", lines=10)
-
+    
     btn_analizar = gr.Button("Analizar")
-    btn_correcto = gr.Button("Respuesta correcta")
-    btn_incorrecto = gr.Button("Respuesta incorrecta")
-
+    
     btn_analizar.click(fn=detect_misogyny, inputs=user_input, outputs=result)
-    btn_correcto.click(fn=save_flag, inputs=[user_input, result, gr.State("correcto")], outputs=result)
-    btn_incorrecto.click(fn=save_flag, inputs=[user_input, result, gr.State("incorrecto")], outputs=result)
 
-demo.launch(share=True, ssr_mode=False)
+
+demo.launch()