Update app.py

app.py

@@ -82,11 +82,12 @@ def read_root():
 
 # -------- INFERENCE OTIMIZADA --------
 def infer_filter(title, content):
-    # Prompt mais conciso para reduzir tokens
-    prompt = f"""Analyze and return JSON filters:
+    # Prompt mais específico para JSON válido
+    prompt = f"""Analyze the news and return a valid JSON object with double quotes for all keys and string values.
 Title: "{title}"
 Content: "{content}"
-"""
+
+Return only valid JSON:"""
     
     log.info(f"🧠 Inferência iniciada para: {title}")
     start_time = time.time()
@@ -112,7 +113,6 @@ Content: "{content}"
                 attention_mask=attention_mask,
                 generation_config=generation_config,
                 # Parâmetros adicionais de otimização
-                early_stopping=True,
                 num_return_sequences=1,
                 output_scores=False,
                 return_dict_in_generate=False,
@@ -129,11 +129,15 @@ Content: "{content}"
     log.info("📤 Resultado gerado:")
     log.info(generated)
     
-    # Regex otimizada
+    # Extração e limpeza de JSON
     match = re.search(r'\{[^{}]*(?:\{[^{}]*\}[^{}]*)*\}', generated, re.DOTALL)
     if match:
         duration = time.time() - start_time
         json_result = match.group(0)
+        
+        # Limpeza do JSON para corrigir formatação
+        json_result = fix_json_format(json_result)
+        
         log.info(f"✅ JSON extraído em {duration:.2f}s")
         
         # Limpeza de memória
@@ -148,6 +152,28 @@ Content: "{content}"
         gc.collect()
         raise HTTPException(status_code=404, detail="Unable to extract JSON from model output.")
 
+def fix_json_format(json_str):
+    """Corrige formatação comum de JSON gerado por LLMs"""
+    # Remove quebras de linha dentro do JSON
+    json_str = re.sub(r'\n\s*', ' ', json_str)
+    
+    # Corrige aspas simples para duplas
+    json_str = re.sub(r"'([^']*)':", r'"\1":', json_str)  # Chaves
+    json_str = re.sub(r":\s*'([^']*)'", r': "\1"', json_str)  # Valores string
+    
+    # Corrige valores booleanos
+    json_str = re.sub(r':\s*True\b', ': true', json_str)
+    json_str = re.sub(r':\s*False\b', ': false', json_str)
+    
+    # Remove vírgulas extras
+    json_str = re.sub(r',\s*}', '}', json_str)
+    json_str = re.sub(r',\s*]', ']', json_str)
+    
+    # Remove espaços extras
+    json_str = re.sub(r'\s+', ' ', json_str)
+    
+    return json_str.strip()
+
 # -------- API --------
 @app.get("/filter")
 def get_filter(
@@ -157,12 +183,23 @@ def get_filter(
     try:
         json_output = infer_filter(title, content)
         import json
-        return json.loads(json_output)
+        
+        # Tenta fazer parse do JSON
+        try:
+            parsed_result = json.loads(json_output)
+            return {"result": parsed_result}
+        except json.JSONDecodeError as je:
+            log.error(f"❌ Erro ao parsear JSON: {je}")
+            log.error(f"JSON problemático: {json_output}")
+            
+            # Fallback: retorna JSON como string se não conseguir parsear
+            return {"result": json_output, "warning": "JSON returned as string due to parsing error"}
+            
     except HTTPException as he:
         raise he
     except Exception as e:
         log.exception("❌ Erro inesperado:")
-        raise HTTPException(status_code=404, detail="Invalid or malformed JSON output from model.")
+        raise HTTPException(status_code=500, detail="Internal server error during inference.")
 
 # -------- WARMUP (OPCIONAL) --------
 @app.on_event("startup")