Spaces:
Paused
Paused
Update app.py
Browse files
app.py
CHANGED
@@ -6,18 +6,22 @@ import warnings
|
|
6 |
warnings.filterwarnings("ignore")
|
7 |
|
8 |
"""
|
9 |
-
|
10 |
Hugging Face Transformersライブラリを使用してローカルでモデルを実行
|
11 |
"""
|
12 |
|
13 |
# モデルとトークナイザーの初期化
|
14 |
-
# MODEL_NAME = "sbintuitions/sarashina2.2-3b-instruct-v0.1" # Sarashina2 3B
|
15 |
# MODEL_NAME = "sbintuitions/sarashina2-7b" # Sarashina2 7B
|
16 |
# MODEL_NAME = "sbintuitions/sarashina2-13b" # Sarashina2 13B
|
17 |
# MODEL_NAME = "sbintuitions/sarashina2-70b" # Sarashina2 70B
|
18 |
# MODEL_NAME = "sbintuitions/sarashina1-65b" # Sarashina1 65B
|
19 |
-
MODEL_NAME = "elyza/Llama-3-ELYZA-JP-8B" # ELYZA-JP-8B
|
20 |
# MODEL_NAME = "lightblue/ao-karasu-72B" # ao-karasu-72B
|
|
|
|
|
|
|
|
|
21 |
|
22 |
print("モデルを読み込み中〜...")
|
23 |
tokenizer = AutoTokenizer.from_pretrained(MODEL_NAME, trust_remote_code=True)
|
@@ -123,8 +127,8 @@ Gradio ChatInterfaceを使用したシンプルなチャットボット
|
|
123 |
"""
|
124 |
demo = gr.ChatInterface(
|
125 |
respond,
|
126 |
-
title="🤖
|
127 |
-
description="
|
128 |
additional_inputs=[
|
129 |
gr.Textbox(
|
130 |
value="あなたは親切で知識豊富な日本語アシスタントです。ユーザーの質問に丁寧に答えてください。",
|
|
|
6 |
warnings.filterwarnings("ignore")
|
7 |
|
8 |
"""
|
9 |
+
LLM-JP(13B)モデルを使用したGradioチャットボット
|
10 |
Hugging Face Transformersライブラリを使用してローカルでモデルを実行
|
11 |
"""
|
12 |
|
13 |
# モデルとトークナイザーの初期化
|
14 |
+
# MODEL_NAME = "sbintuitions/sarashina2.2-3b-instruct-v0.1" # Sarashina2 3B instruceted
|
15 |
# MODEL_NAME = "sbintuitions/sarashina2-7b" # Sarashina2 7B
|
16 |
# MODEL_NAME = "sbintuitions/sarashina2-13b" # Sarashina2 13B
|
17 |
# MODEL_NAME = "sbintuitions/sarashina2-70b" # Sarashina2 70B
|
18 |
# MODEL_NAME = "sbintuitions/sarashina1-65b" # Sarashina1 65B
|
19 |
+
# MODEL_NAME = "elyza/Llama-3-ELYZA-JP-8B" # ELYZA-JP-8B
|
20 |
# MODEL_NAME = "lightblue/ao-karasu-72B" # ao-karasu-72B
|
21 |
+
MODEL_NAME = "llm-jp/llm-jp-3-13b-instruct" # llm-jp-3-13b-instruct
|
22 |
+
# MODEL_NAME = "llm-jp/llm-jp-3-172b-instruct3" # llm-jp-3-172b-instruct3
|
23 |
+
# MODEL_NAME = "shisa-ai/shisa-v2-unphi4-14b" # shisa-v2-unphi4-14b
|
24 |
+
# MODEL_NAME = "shisa-ai/shisa-v2-qwen2.5-32b" # shisa-v2-qwen2.5-32b
|
25 |
|
26 |
print("モデルを読み込み中〜...")
|
27 |
tokenizer = AutoTokenizer.from_pretrained(MODEL_NAME, trust_remote_code=True)
|
|
|
127 |
"""
|
128 |
demo = gr.ChatInterface(
|
129 |
respond,
|
130 |
+
title="🤖 LLM-JP Chatbot",
|
131 |
+
description="LLM-JP-13B モデルを使用した日本語チャットボットです。",
|
132 |
additional_inputs=[
|
133 |
gr.Textbox(
|
134 |
value="あなたは親切で知識豊富な日本語アシスタントです。ユーザーの質問に丁寧に答えてください。",
|