Update app.py

app.py

@@ -1,7 +1,53 @@
+import os
 import gradio as gr
+from huggingface_hub import login
+from transformers import pipeline
 
-def hello(name):
-    return f"שלום {name}!"
+# התחברות ל-Hugging Face עם מפתח מהגדרות הסודות
+token = os.environ.get("HF_TOKEN")
+if token:
+    login(token)
+    print("התחברות ל-Hugging Face הצליחה!")
+else:
+    print("אזהרה: לא נמצא מפתח HF_TOKEN!")
+
+# טעינת המודל
+model_name = "google/gemma-3n-E2B-it-litert-preview"
+print(f"טוען מודל {model_name}...")
+
+try:
+    generator = pipeline(
+        "text-generation",
+        model=model_name,
+        device_map="auto",
+        torch_dtype="auto",
+        model_kwargs={"quantization_config": {"load_in_4bit": True}}
+    )
+    print("המודל נטען בהצלחה!")
+except Exception as e:
+    print(f"שגיאה בטעינת המודל: {str(e)}")
+    generator = None
+
+def ask_model(prompt):
+    if generator is None:
+        return "המודל לא נטען כראוי. בדוק את הלוגים."
+    
+    try:
+        outputs = generator(
+            [{"role": "user", "content": prompt}],
+            max_new_tokens=200,
+            return_full_text=False
+        )
+        return outputs[0]["generated_text"]
+    except Exception as e:
+        return f"שגיאה בקבלת תשובה: {str(e)}"
+
+demo = gr.Interface(
+    fn=ask_model,
+    inputs=gr.Textbox(lines=3, placeholder="שאל שאלה..."),
+    outputs=gr.Textbox(label="תשובה"),
+    title="Genie - צ'אטבוט Gemma 3n",
+    description="צ'אטבוט מבוסס על מודל Gemma 3n של Google"
+)
 
-demo = gr.Interface(fn=hello, inputs="text", outputs="text")
 demo.launch()