Update app.py

app.py

@@ -18,18 +18,20 @@ tokenizer.set_chat_template(tokenizer.chat_template)
 
 
 def generate_response(prompt):
-    generated = pipe.generate([prompt], max_length=1024)   
-    return generated
+    output = pipe.generate([prompt], max_length=1024)
+    tokenpersec=output.perf_metrics.get_throughput().mean:.2f
+    return tokenpersec,output
 
 # 建立 Gradio 介面
 demo = gr.Interface(
     fn=generate_response,
     inputs=gr.Textbox(lines=5, label="輸入提示 (Prompt)"),
     outputs=[
+        gr.Textbox(label="tokens/sec"),        
         gr.Textbox(label="回應")
     ],
-    title="Qwen3-0.6B OpenVINO + Gradio",
-    description="基於 OpenVINO 最佳化的 Qwen3-0.6B 推理應用，支援思考過程分離與 GUI。"
+    title="Qwen3-0.6B-int4-ov ",
+    description="基於 Qwen3-0.6B-int4-ov 推理應用，支援思考過程分離與 GUI。"
 )
 
 if __name__ == "__main__":