Update app.py

app.py

@@ -1,80 +1,101 @@
 from transformers import AutoTokenizer, T5ForConditionalGeneration
 import torch
 import gradio as gr
-import json
 import re
-import os
+import json
 
-# Создаем папку для кэша (если используется)
-os.makedirs(".gradio/cached_examples", exist_ok=True)
+# Инициализация модели и токенизатора
+def load_model():
+    tokenizer = AutoTokenizer.from_pretrained(
+        "cointegrated/rut5-base-multitask",
+        legacy=False  # Отключаем предупреждения
+    )
+    model = T5ForConditionalGeneration.from_pretrained(
+        "cointegrated/rut5-base-multitask",
+        torch_dtype=torch.float16  # Экономия памяти
+    )
+    return tokenizer, model
 
-# Загрузка модели с обработкой предупреждений
-tokenizer = AutoTokenizer.from_pretrained(
-    "cointegrated/rut5-base-multitask",
-    legacy=False
-)
-model = T5ForConditionalGeneration.from_pretrained("cointegrated/rut5-base-multitask")
+tokenizer, model = load_model()
 
-def generate_meta_tags(description):
+# Основная функция генерации
+def generate_seo_tags(description):
     try:
+        # Подготовка промта
         prompt = f"""
-Сгенерируй SEO-метатеги для карточки товара на основе описания ниже.
+Сгенерируй SEO-метатеги title и description для товара.
+Требования:
+- Title: до 60 символов, содержит ключевые слова
+- Description: до 160 символов, описание преимуществ
+
 Описание товара:
 {description.strip()}
-Требования:
-- title: до 60 символов, цепляющий заголовок с ключевыми словами
-- description: до 160 символов, краткое описание преимуществ
-Формат вывода (строго JSON):
+
+Выведи только JSON:
 {{"title": "...", "description": "..."}}
 """
-        
-        inputs = tokenizer(prompt, return_tensors="pt", max_length=512, truncation=True)
+        # Токенизация и генерация
+        inputs = tokenizer(prompt, return_tensors="pt", truncation=True, max_length=512)
         
         with torch.no_grad():
             outputs = model.generate(
                 **inputs,
                 max_new_tokens=200,
+                num_beams=3,
                 do_sample=True,
                 temperature=0.5,
-                top_k=50,
-                num_beams=3,
-                eos_token_id=tokenizer.eos_token_id
+                early_stopping=True
             )
         
-        generated_text = tokenizer.decode(outputs[0], skip_special_tokens=True)
+        # Декодирование и очистка результата
+        result = tokenizer.decode(outputs[0], skip_special_tokens=True)
+        json_match = re.search(r'\{.*\}', result, re.DOTALL)
         
-        # Улучшенная обработка JSON
-        try:
-            json_str = re.search(r'\{.*\}', generated_text, re.DOTALL)
-            if json_str:
-                result = json.loads(json_str.group())
-                # Проверяем длину полей
-                result["title"] = result["title"][:60]
-                result["description"] = result["description"][:160]
-                return result
-        except:
-            pass
+        if json_match:
+            seo_tags = json.loads(json_match.group())
+            # Проверка и обрезка по длине
+            seo_tags["title"] = seo_tags.get("title", "")[:60]
+            seo_tags["description"] = seo_tags.get("description", "")[:160]
+            return seo_tags
         
-        # Фоллбэк
-        title = re.sub(r'[^\w\s]', '', description)[:60]
-        desc = re.sub(r'[^\w\s]', '', description)[:160]
-        return {"title": title, "description": desc}
-    
     except Exception as e:
-        print(f"Error: {e}")
-        return {"title": "Ошибка генерации", "description": "Попробуйте другое описание"}
+        print(f"Ошибка: {e}")
+    
+    # Фоллбэк если что-то пошло не так
+    clean_text = re.sub(r'[^\w\s]', '', description)
+    return {
+        "title": clean_text[:60],
+        "description": clean_text[:160]
+    }
 
-demo = gr.Interface(
-    fn=generate_meta_tags,
-    inputs=gr.Textbox(label="Описание товара", lines=5),
-    outputs=gr.JSON(label="Мета-теги"),
-    examples=[
-        ["Смартфон Samsung Galaxy S23 с экраном 6.1\", 8 ГБ ОЗУ, 128 ГБ памяти, камерой 50 МП"],
-        ["Электрическая зубная щётка Oral-B Pro 3 3000 с датчиком давления и 3 насадками"]
-    ],
-    title="Генератор SEO-метатегов для маркетплейсов",
-    allow_flagging="never"
-)
+# Интерфейс Gradio
+with gr.Blocks(title="SEO Генератор") as app:
+    gr.Markdown("## Генератор SEO-метатегов для товаров")
+    
+    with gr.Row():
+        with gr.Column():
+            input_text = gr.Textbox(
+                label="Описание товара",
+                placeholder="Введите описание товара...",
+                lines=5
+            )
+            submit_btn = gr.Button("Сгенерировать")
+        
+        with gr.Column():
+            output_json = gr.JSON(
+                label="SEO-метатеги",
+                interactive=False
+            )
+    
+    submit_btn.click(
+        fn=generate_seo_tags,
+        inputs=input_text,
+        outputs=output_json
+    )
 
 if __name__ == "__main__":
-    demo.launch(server_name="0.0.0.0", server_port=7860)
+    app.launch(
+        server_name="0.0.0.0",
+        server_port=7860,
+        show_error=True
+    )