skypro1111 commited on
Commit
2631e2b
·
1 Parent(s): e8152d5

change inference ui

Browse files
Files changed (1) hide show
  1. app.py +32 -17
app.py CHANGED
@@ -62,7 +62,7 @@ def process_text(text: str):
62
  def inference(text):
63
  """Gradio interface function."""
64
  output, inference_time = process_text(text)
65
- return f"Вихідний текст: {output}\nЧас обробки: {inference_time:.3f} секунд"
66
 
67
  # Define examples from inference_ct2.py
68
  examples = [
@@ -80,18 +80,29 @@ examples = [
80
  ]
81
 
82
  # Define Gradio interface
83
- interface = gr.Interface(
84
- fn=inference,
85
- inputs=gr.Textbox(
86
- label="Введіть текст для вербалізації",
87
- placeholder="Наприклад: Температура повітря сьогодні становить +25°C"
88
- ),
89
- outputs=gr.Textbox(label="Результат"),
90
- examples=examples,
91
- title="Вербалізація українського тексту (M2M100-CT2)",
92
- description="""Модель для перетворення чисел, дат, одиниць вимірювання та інших символьних позначень
93
- у їх текстовий запис українською мовою. Використовує оптимізовану CTranslate2 версію для швидкого інференсу.""",
94
- article="""
 
 
 
 
 
 
 
 
 
 
 
95
  ### Можливості моделі:
96
  - Дати та час
97
  - Телефонні номери
@@ -102,9 +113,13 @@ interface = gr.Interface(
102
  ### Технічні деталі:
103
  - Базова модель: facebook/m2m100_418M
104
  - Оптимізація: CTranslate2 з INT8 квантизацією
105
- - Середній час інференсу: ~0.15-0.25 секунд на CPU
106
- """
107
- )
 
 
 
 
108
 
109
  # Launch the interface
110
- interface.launch()
 
62
  def inference(text):
63
  """Gradio interface function."""
64
  output, inference_time = process_text(text)
65
+ return output, f"{inference_time:.3f} секунд"
66
 
67
  # Define examples from inference_ct2.py
68
  examples = [
 
80
  ]
81
 
82
  # Define Gradio interface
83
+ with gr.Blocks() as interface:
84
+ gr.Markdown("# Вербалізація українського тексту (M2M100-CT2)")
85
+ gr.Markdown("""Модель для перетворення чисел, дат, одиниць вимірювання та інших символьних позначень
86
+ у їх текстовий запис українською мовою. Використовує оптимізовану CTranslate2 версію для швидкого інференсу.""")
87
+
88
+ with gr.Row():
89
+ with gr.Column():
90
+ input_text = gr.Textbox(
91
+ label="Введіть текст для вербалізації",
92
+ placeholder="Наприклад: Температура повітря сьогодні становить +25°C"
93
+ )
94
+ submit_btn = gr.Button("Вербалізувати")
95
+
96
+ gr.Examples(
97
+ examples=examples,
98
+ inputs=input_text,
99
+ )
100
+
101
+ with gr.Column():
102
+ output_text = gr.Textbox(label="Вербалізований текст")
103
+ inference_time = gr.Textbox(label="Час обробки")
104
+
105
+ gr.Markdown("""
106
  ### Можливості моделі:
107
  - Дати та час
108
  - Телефонні номери
 
113
  ### Технічні деталі:
114
  - Базова модель: facebook/m2m100_418M
115
  - Оптимізація: CTranslate2 з INT8 квантизацією
116
+ """)
117
+
118
+ submit_btn.click(
119
+ fn=inference,
120
+ inputs=input_text,
121
+ outputs=[output_text, inference_time],
122
+ )
123
 
124
  # Launch the interface
125
+ interface.launch(share=False)