app.py

import gradio as gr
from transformers import pipeline

# GPU で動作するモデルのロード（自動でGPUがあれば使用）
generator = pipeline("text-generation", model="google/gemma-3-4b-it")

def generate_text(prompt):
    result = generator(prompt, max_length=100, num_return_sequences=1)
    return result[0]["generated_text"]

iface = gr.Interface(fn=generate_text,
                     inputs="text",
                     outputs="text",
                     title="Text Generator using sarashina2-13b-r1")

iface.launch()