processing_test / app.py
Mori-kamiyama's picture
作ってみた
fc3790e
raw
history blame
538 Bytes
import gradio as gr
from transformers import pipeline
# GPU で動作するモデルのロード(自動でGPUがあれば使用)
generator = pipeline("text-generation", model="Mori-kamiyama/sarashina2-13b-r1")
def generate_text(prompt):
result = generator(prompt, max_length=100, num_return_sequences=1)
return result[0]["generated_text"]
iface = gr.Interface(fn=generate_text,
inputs="text",
outputs="text",
title="Text Generator using GPT-2")
iface.launch()